Yapay zeka teknolojileri şirketlerde artan bir rol üstlenirken, Microsoft’tan önemli bir güvenlik uyarısı gündeme geldi. Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, mevcut yapay zeka modellerinin güvenilir olarak değerlendirilemeyeceğini ve AI ajanlarının denetimsiz kullanılması durumunda ciddi tehlikeler yaratabileceğini belirtti. “AI modellere güvenilemez”
Gallot, Microsoft Security blogunda yayımladığı “Securing the agentic insider” başlıklı yazısında özellikle Agentic AI sistemlerinin oluşturduğu tehditlere vurgu yaptı. Yöneticiye göre yapay zeka modelleri kötü niyetli olmasalar bile güvenilir olarak nitelendirilmemelidir. Gallot, farklı şirketler veya kaynaklar tarafından geliştirilen gelişmiş yapay zeka modellerinin tamamı için oldukça net bir değerlendirme sundu.
Microsoft yöneticisi, “Frontier modeller, kaynağı ne olursa olsun güvenilir değildir” ifadesini kullandı. Gallot’a göre gerçek risk yalnızca modelin kendisinden gelmiyor. Kurumlarda daha fazla kullanılan AI ajanları, verilere, araçlara ve sistemlere geniş erişim sağlıyor. Bu ajanlar sadece kendilerine verilen talimatları uygulayan pasif yazılımlar olmaktan çıkıp operasyonların aktif unsurları haline geliyor.
Microsoft Security yöneticisi, bu nedenle AI ajanlarını “agentic insiders” olarak tanımlıyor. Bu sistemlerin öngörülemeyen davranışlar sergileyebileceği ve hedeflerine ulaşmak için diğer ajanlarla bağımsız bir şekilde iş birliği yapabileceğini ifade ediyor.
Microsoft’tan AI’yı denetleyecek AI önerisi
Microsoft’un çözüm önerisi dikkat çekici bir yaklaşım sunuyor. Şirket, yapay zeka ajanlarının davranışlarını anlık olarak izlemek amacıyla Guardian Agents adı verilen denetleyici ajanların kullanılmasını tavsiye ediyor. Bu sistemin temelinde Microsoft’un Project Perception güvenlik platformu yer alıyor. Yapay zeka destekli saldırılara karşı geliştirilen bu sistemin, AI ajanlarını kontrol altında tutacak şekilde uyarlanması hedefleniyor.
Guardian Agents, sistem içindeki diğer ajanların eylemlerini gerçekte anlık olarak takip edecek. Riskli veya beklenmedik bir davranış tespit edildiğinde belirlenen kontroller devreye girerek ilgili ajanın hareket alanını sınırlayabilecek.
Micosoft’a göre bu yaklaşım sadece otomatik müdahaleden ibaret kalmayacak. Sistem aynı zamanda yaşanan olayların izlenebilirliğini sağlayacak. Böylece güvenlik ekipleri hangi davranışların gerçekleştiğini, riskin neden ortaya çıktığını ve gelecekte hangi güvenlik kurallarının değiştirilmesi gerektiğini analiz edebilecekler.
Gallot, yapay zeka tabanlı güvenliğin hız kazandırabileceğini ancak nihai karar ve değerlendirmede insanların rolünün devam etmesi gerektiğine inanıyor. Microsoft’un yaklaşımı kısaca “AI ile AI’yı denetlemek ama insan kararını devre dışı bırakmamak” şeklinde özetlenebilir.
