Microsoft yöneticisi Gallot, gelişmiş yapay zekâ modellerinin kaynağı ne olursa olsun güvenilir kabul edilmemesi gerektiğini söyledi. Kurumlarda geniş erişim yetkileriyle kullanılan AI ajanları için şirketin önerisi, davranışları başka yapay zekâ ajanlarıyla izlemek; ancak nihai değerlendirmede insanları devrede tutmak.
AI ajanları kurum operasyonlarında etkin rol alıyor
Gallot, Microsoft Security blogunda yayımlanan “Securing the agentic insider” başlıklı yazısında, özellikle Agentic AI sistemlerinin oluşturabileceği risklere dikkat çekti. “Frontier modeller, kaynağı ne olursa olsun güvenilemez” diyen Gallot’a göre tehlike yalnızca modellerin kendisinden ibaret değil.
Kurumlarda daha yaygın kullanılmaya başlayan AI ajanları; verilere, araçlara ve sistemlere geniş erişim sağlayabiliyor. Bu sistemler, sadece verilen komutları uygulayan pasif yazılımlar olmaktan çıkarak operasyonların etkin parçaları hâline geliyor.
Gallot, öngörülemeyen davranışlar gösterebilen ve hedeflerine ulaşmak amacıyla diğer ajanlarla otonom biçimde iş birliği kurabilen bu sistemleri “agentic insiders” olarak nitelendiriyor.
Guardian Agents gerçek zamanlı gözetim sağlayacak
Microsoft, AI ajanlarının davranışlarını anlık olarak izlemek üzere Guardian Agents adı verilen denetleyici ajanları öneriyor. Bu yaklaşımın temelinde, yapay zekâ destekli saldırılara karşı geliştirilen Project Perception güvenlik platformu bulunuyor. Platformun, AI ajanlarını denetleyecek biçimde uyarlanması planlanıyor.
Guardian Agents, sistemdeki diğer ajanların eylemlerini takip edecek. Riskli ya da beklenmedik bir hareket tespit edildiğinde tanımlı kontroller devreye girerek ilgili ajanın faaliyet alanını daraltabilecek.
Microsoft’un belirttiğine göre sistem, otomatik müdahalenin yanı sıra olayların izlenebilir olmasını da sağlayacak. Güvenlik ekipleri böylece hangi davranışın gerçekleştiğini ve riskin neden ortaya çıktığını inceleyebilecek; gelecekte uygulanacak güvenlik kurallarında hangi değişikliklerin gerektiğini değerlendirebilecek.
Nihai değerlendirmede insan rolü korunacak
Gallot, yapay zekâ tabanlı güvenlik araçlarının süreçleri hızlandırabileceğini, ancak son karar ve değerlendirme aşamasında insanların rolünün sürmesi gerektiğini savunuyor. Microsoft’un yaklaşımı, yapay zekâyı başka yapay zekâlarla denetlerken insan kararını devre dışı bırakmamak üzerine kurulu.
