Şirketlerin iş süreçlerine yerleştirdiği yapay zekâ ajanları hızla çoğalırken Microsoft güvenlik tarafında alışılmadık bir tespitle öne çıktı: Bu ajanlara, kötü niyetli bir dış saldırgandan çok, kurumun içindeki yetkili ama öngörülemez bir çalışan gibi bakmak gerekiyor. Şirket, bu yaklaşımın ürünü olarak pazartesi günü bir dizi yeni güvenlik özelliğini duyurdu.
Duyurunun en dikkat çeken parçası, Guardian Agents adı verilen yapı. Bu ajanlar, bir şirketin kullandığı diğer yapay zekâ ajanlarını izlemek üzere tasarlandı ve Microsoft'un haziranda tanıttığı Project Perception girişiminin devamı niteliğinde. Project Perception, saldırı yapan, açıkları tespit eden ve onaran üç ayrı ajan türüne dayanıyordu; ancak tehdidin hep şirketin dışından geleceğini varsayıyordu.
Mantık değişikliğinin arkasında CEO Satya Nadella'nın uyarıları var. Nadella'ya göre risk, kurumların kendi satın aldığı ve devreye aldığı ajanlardan da gelebilir. Şirketlere, model sağlayıcılarının güvenlik güvencelerine tek başına güvenmemelerini, ajanları yapay zekâ laboratuvarlarının kontrolü dışındaki sistemlerle denetlemelerini öneriyor. Nadella'nın sözleriyle: "Zekânın bizim adımıza yaptıklarının sorumluluğunu başkasına devredemeyiz."
Microsoft'un güvenlik iş kolunun başındaki Hayete Gallot da benzer bir çerçeve çiziyor. Gallot'a göre sorun modellerin kötü niyetli ya da kolay hacklenebilir olması değil, öngörülemez olmaları. Modeller görevi tamamlamak üzere eğitiliyor; kurumsal normları ya da sağduyuyu gözetmeleri beklenemez. Üstelik çoğu zaman ciddi zarar verebilecek veri ve araçlara erişimleri var.
Pratikteki yenilikler de somut. Microsoft Defender, çalışanların iş yerine getirdiği Claude Code, Codex ve OpenClaw gibi araçlar dahil yaklaşık 60 farklı ajan türünü tespit edebiliyor. Ajanların veri ve sistemlere erişimi sınırlandırılabiliyor, izinler göreve göre ayarlanıyor ve riskli bir karar şüphesi doğduğunda insan onayı isteniyor. Microsoft ayrıca Nvidia'nın başlattığı ve yüzü aşkın teknoloji şirketinin desteklediği Open Agent Safety Platform'un kurucu üyelerinden; bu platform ajanları yalıtılmış ortamlarda çalıştırıp donanım seviyesinde durdurabiliyor. Şirket bir de ajanlar için tasarlanmış, yerleşik güvenlik kontrolleri olan Nvidia çipli Surface Laptop Ultra bilgisayarlarını duyurdu.
Elbette burada çıkar çatışması da var: Microsoft hem OpenAI ve Anthropic'e yatırımcı, hem kendi modellerini geliştiriyor, hem de güvenlik ürünü satıyor. Yine de bağımsız denetim fikri yabancı değil; tıpkı denetçilerin denetlenen kurumdan bağımsız olması gibi, ajanları üreten taraftan ayrı bir gözetim katmanı mantıklı duruyor. Türkiye'de de kurumsal yapay zekâ kullanımı yaygınlaştıkça, KVKK ve veri güvenliği açısından benzer bir denetim katmanı tartışması kaçınılmaz görünüyor.
Kaynak: TechCrunch
