SİBER GÜVENLİK · KURUMSAL OTOMASYON
Yapay Zekâ Ajanı Güvenliği: İşletmeler İçin Kontrol Listesi
Yapay zekâ ajanı güvenliği, bir asistanın yalnızca doğru yanıt vermesini değil, bağlı olduğu sistemlerde hangi işlemleri yapabileceğinin sınırlandırılmasını kapsar. Dosya okuyabilen, CRM kaydı değiştirebilen veya bir iş akışını başlatabilen ajan için iyi yazılmış bir talimat tek başına yeterli değildir. İşletmenin erişim sınırına, onay adımına ve işlemi gerektiğinde durdurabilecek bir sorumluya ihtiyacı vardır. Bu rehber, kurumsal kullanıma geçmeden önce uygulanabilecek pratik bir başlangıç planı sunar; belirli bir ürünün güvenlik garantisi değildir.
Yapay zekâ ajanı ile sohbet asistanı arasındaki fark
Bir sohbet asistanı, kullanıcının incelemesi için bir cevap veya taslak hazırlayabilir. Ajanın farkı, bir hedef doğrultusunda araç kullanarak birden fazla adımı yürütebilmesidir. Örneğin destek talebini okuyup ilgili sözleşmeyi bulabilir ve CRM içinde takip kaydı oluşturabilir. Risk, yalnızca modelin ismine değil, verilen araçların ve verilerin kapsamına bağlıdır.
Quad Bilişim çalışma önerisi: Projeyi “bir yapay zekâ bağlayalım” şeklinde değil, tek bir iş üzerinden tanımlayın. “Destek taleplerini sınıflandırsın, fakat müşteriye yanıt göndermesin” gibi bir sınır, ilk pilotun neyi yapıp neyi yapmayacağını görünür kılar. Temel kavramlar için yapay zekâ nedir rehberini de inceleyebilirsiniz.
Prompt injection neden yalnızca kullanıcı mesajı değildir?
OWASP, dış kaynaklardan gelen içeriklerin de modelin davranışını istenmeyen yönde değiştirebileceğini açıklıyor. Bir web sayfası, dosya veya araç yanıtı içinde bulunan yönlendirme, ajana verilmiş yetkili bir işletme talimatı sayılmamalıdır. Bu nedenle yalnızca doğrudan yazılan mesajları filtrelemek yeterli bir güvenlik sınırı oluşturmaz.
OWASP’ın prompt injection açıklaması, en az yetki ve riskli işlemlerde insan onayı gibi azaltıcı önlemleri ele alıyor; kusursuz önleme garantisi sunmuyor. Quad Bilişim önerisi: Dış içerikleri bilgi kaynağı olarak etiketleyin. Bir belgeden çıkarılan cümlenin yeni araç erişimi, dosya paylaşımı veya hesap değişikliği başlatmasına izin vermeyin.
Her iş için ayrı ve dar kapsamlı yetki tanımlayın
Aşağıdaki tablo bir ürün ayarı veya resmî standart değil, işletme içi görev ayrımı örneğidir. Her satırı kendi sisteminizin gerçek erişim seçenekleriyle eşleştirin. Bir entegrasyon okuma ile yazmayı ayıramıyorsa, bu eksikliği yalnızca prompt yazarak çözülmüş kabul etmeyin.
| İş | Başlangıç erişimi | Kontrol sınırı |
|---|---|---|
| Destek talebini sınıflandırma | Yalnızca ilgili talebi okuma | Başka müşterinin kayıtlarına erişim yok |
| CRM takip notu hazırlama | Taslak oluşturma | Canlı kayıt değişikliği sorumlu onayında |
| Belge arama | Belirlenmiş klasörü okuma | Genel dosya paylaşımı veya dışa aktarım yok |
| Teklif hazırlama | Onaylı ürün bilgisini kullanma | Fiyat veya alıcı değişikliği ayrıca kontrol edilir |
Ajanın kendi hesabı ve sorumlusu belirlenmelidir. Yönetici hesabını paylaşmak, hangi işlemin kim tarafından başlatıldığını anlamayı zorlaştırır. Yetki genişletme talebi de olağan bir metin yanıtı gibi değil, ayrı bir erişim değişikliği olarak değerlendirilmelidir.
Bağlantı anahtarlarını modelden ve belgelerden uzak tutun
Google Cloud’un servis hesabı anahtarı yönetimi rehberi, mümkün olduğunda kullanıcı tarafından yönetilen uzun ömürlü anahtarlara alternatif kimlik doğrulama yöntemlerini öneriyor. Rehber ayrıca anahtarların kaynak kodunda, indirilen dosyalarda veya paylaşılan konumlarda kalmasının riskini açıklıyor. Bu, Google Cloud bağlamındaki teknik öneridir; diğer platformların yöntemleri ayrıca doğrulanmalıdır.
Quad Bilişim önerisi: Parola veya API anahtarını ajanın sistem talimatına, örnek belgesine ya da konuşma geçmişine koymayın. Entegrasyonun kimlik doğrulamasını uygulama tarafında yönetin. Sızıntı şüphesinde yalnızca metni silmekle yetinmeyin; ilgili erişimi durduracak ve kimlik bilgisini değiştirecek yetkili kişiyi önceden belirleyin.
İnsan onayı hangi işlemi kapsamalı?
Quad Bilişim kontrol tasarımı önerisi: Onay ekranı, işlemin hedefini ve içeriğini açıkça göstermelidir. “Devam et” düğmesinin arkasında hangi müşterinin kaydının değişeceği veya hangi dosyanın paylaşılacağı belirsiz kalmamalıdır. Alıcı, tutar, kapsam ya da içerik değişirse eski onayı yeni işlem için kullanmayın.
Ödeme, erişim yetkisi genişletme, veri silme ve dışarıya bilgi paylaşma gibi işlemleri ilk pilotun dışında bırakmak çoğu işletme için daha yönetilebilir bir başlangıçtır. Bir insanın ekranda bulunması tek başına yeterli değildir; işlemin durdurulabilmesi ve onay verilmezse hiçbir değişiklik yapılmaması gerekir. Hesap giriş güvenliği ile ajan yetkisini ayırmak için passkey rehberine de bakabilirsiniz.
Canlıya geçmeden önce küçük bir pilot yürütün
- İşi sınırlandırın: Tek süreç, belirli veri kümesi ve adı belli bir iş sahibi seçin.
- Örnek veriyle başlayın: Gerçek müşteri bilgisi yerine, iş akışını sınamak için hazırlanmış kayıtlar kullanın.
- Beklenen sonucu yazın: Her örnekte ajanın ne yapması ve ne yapmaması gerektiğini önceden belirtin.
- Durma durumlarını sınayın: Eksik bilgi, erişim reddi ve onay verilmemesi halinde işin güvenli biçimde durduğunu kontrol edin.
- Geri dönüş yolunu deneyin: Hatalı bir taslağı iptal etmenin veya yapılan sınırlı değişikliği geri almanın sorumlusu belli olsun.
Bu sıra, Quad Bilişim’in önerdiği örnek pilot yaklaşımıdır; bir güvenlik sertifikasyonu değildir. Başarılı birkaç deneme sonrasında bütün kayıtları aynı anda sisteme açmak yerine, kapsamı kontrollü biçimde genişletin.
Kayıt, tekrar deneme ve durdurma planını unutmayın
İşletme, sonucun yanı sıra hangi talebin hangi aracı çalıştırdığını da izleyebilmelidir. Ancak izleme uğruna parolaları, tam müşteri belgelerini veya gereksiz kişisel verileri günlük dosyasına kopyalamayın. Kayıtların kim tarafından görülebileceğini ve ne kadar süre saklanacağını kurum politikanızla belirleyin.
Quad Bilişim önerisi: Bağlantı kesildiğinde aynı işlemin iki kez yapılmaması için işlem kimliği ve tekrar kontrolü kullanın. Özellikle CRM yazımı ve dış sistem güncellemesinde “yanıt gelmedi” durumu “işlem yapılmadı” anlamına gelmez. Durdurma düğmesinin yalnızca ekranı değil, bekleyen işleri de durdurduğunu deneyin. Bu kontrolleri özel yazılım geliştirme ve IT dış kaynak hizmeti kapsamına açık teslim ölçütleri olarak ekleyebilirsiniz.
Sık sorulan sorular
Güçlü bir sistem talimatı ajanı tek başına güvenli yapar mı?
Hayır. Talimat, işin tarifine yardımcı olur; uygulamadaki erişim sınırının, veri ayrımının, onay mekanizmasının ve izleme kontrolünün yerine geçmez.
İlk pilot için bütün şirket verilerini açmak gerekir mi?
Gerekmez. Önerilen başlangıç, tek iş akışı ve onun için hazırlanmış sınırlı örnek veri kümesidir. Daha geniş erişim, ihtiyacı ve kontrolü doğrulandıktan sonra ayrıca değerlendirilmelidir.
Bir güvenlik ürünü kullanmak bütün riskleri ortadan kaldırır mı?
Hayır. Ürün; doğru yetki, uygun entegrasyon, insan onayı ve operasyonel sorumlulukla birlikte değerlendirilmelidir. Hiçbir ürün için bu rehberde sıfır risk veya performans garantisi verilmez.
Ajan projenizin sınırlarını birlikte belirleyelim
Mevcut sistemleriniz, erişim ihtiyacınız ve pilot kabul ölçütleri için Quad Bilişim ile iletişime geçin. İlk görüşmede gerçek müşteri verisi veya yönetici parolası paylaşmanız gerekmez.
Teknik kaynaklar
Kaynak kontrolü: 17 Ekim 2026. Kontrol listeleri ve pilot örnekleri Quad Bilişim’in özgün çalışma önerileridir; resmî standart veya güvenlik garantisi değildir.