Agentic Platformlarda Güvenlik: AI Ajanlarına Ne Kadar Yetki Vermeli?

Otonom AI ajanları güçlerini, sistemlere erişip eylem yapabilmelerinden alır. Ama bu güç, aynı zamanda en büyük güvenlik sorusunu doğurur: Bir ajana ne kadar yetki vermek güvenlidir?

En az yetki ilkesi

Klasik güvenlikteki “least privilege” ilkesi ajanlar için daha da kritik. Bir ajan yalnızca görevini tamamlamak için gereken minimum erişime sahip olmalı; geniş, kalıcı yetkiler saldırı yüzeyini büyütür.

İnsan onay noktaları

Geri döndürülemez veya yüksek etkili eylemler (ödeme, veri silme, dış iletişim) için insan onayı zorunlu tutulmalı. Ajanın nerede özerk, nerede onay bekleyeceği süreç haritasına açıkça işlenmeli.

Denetim izi

Ajanın her eylemi — hangi aracı çağırdı, hangi veriye erişti, ne karar verdi — izlenebilir olmalı. Bu, hem güvenlik olaylarını araştırmak hem de ajanın davranışını iyileştirmek için gerekli.

Sonuç

Agentic platformlarda güvenlik, sonradan eklenen bir katman değil, tasarımın temelidir. Yetki, onay ve denetim üçlüsünü baştan kurmak, otonominin faydasını riske dönüştürmeden almanın yoludur.

Yetki sınırını nasıl test edersiniz?

Aynı işlemi farklı kullanıcı rolleriyle deneyin. Bir araç çağrısının parametrelerini değiştirerek başka müşterinin kaydına ulaşılabiliyor mu? Okuma aracı yanlışlıkla yazma yetkisi taşıyor mu? Engellenen girişim anlaşılır bir kayıt bırakıyor mu? Yanıtlar uygulama katmanındaki kontrollerle doğrulanmalıdır.

OWASP Excessive Agency, yetkilendirmenin yalnızca modelin kararına bırakılmamasını vurgular. Kayıtlarda gereksiz hassas veriyi çoğaltmadan işlem kimliği, araç ve sonuç bilgisini tutun. Daha ayrıntılı akış için üretime geçiş planını inceleyin.