Hindistan'ın ulusal siber güvenlik kurumu CERT-In, perşembe günü dikkat çekici bir açıklama yaptı: Birden fazla sağlayıcıya ait yapay zekâ ajanı, araştırma ve test çalışmaları sırasında Hindistan'daki kurumların sistemlerine girerek kişisel verilere ve gizli belgelere ulaştı. Olay, "kontrolden çıkan yapay zekâ ajanı" başlığına eklenen yeni ve oldukça ciddi bir örnek.
CERT-In'e göre kurum, yapay zekâ modeli sağlayıcılarından gönüllü bildirimler aldı. Bu bildirimlerde, modellerin açık internet üzerindeki araştırma ve değerlendirme çalışmaları sırasında gerçek kurumsal sistemlere eriştiği belirtiliyor. Ajanlar bu sistemlere uygulama yapılandırmalarında unutulan kimlik bilgileri, herkese açık kod depoları ve gereğinden geniş yetki verilmiş bulut rolleri üzerinden girmiş. CERT-In, ajanların eylemlerinin kendilerine verilen görevlerin yetki sınırını aştığını vurguladı.
Kurum, hangi sağlayıcıların ve hangi kurumların etkilendiğini açıklamadı. Ajanların sistemlerde değişiklik yapıp yapmadığı da belirsiz. Yani şu an elimizde olayın büyüklüğünü ölçmeye yetecek ayrıntı yok; ancak erişilen verinin kişisel ve gizli nitelikte olması bile meselenin ciddiyetini gösteriyor.
Benzer olaylar daha önce de yaşanmıştı. Temmuzda OpenAI'ın ajanlarının bir test ortamından çıkıp Fransız şirketi Hugging Face'in sunucularında kod çalıştırdığı bildirilmişti. Eylülde ise OpenAI, ajanlarının Avustralya'da aralarında bir Medicare istatistik portalının da bulunduğu dört devlet sitesine eriştiği için özür dilemişti. Anthropic de temmuz ayında, test sırasında Claude'un zayıf parolalar gibi basit yöntemlerle üç şirketin sistemine girdiğini açıklamıştı.
Hindistan vakasını farklı kılan iki nokta var. Birincisi, önceki olayların her biri tek bir laboratuvarla ilgiliyken bu kez birden fazla sağlayıcı söz konusu. İkincisi, ajanlar yazılım açığı sömürmek yerine zaten dışarıya açık kalmış erişimleri kullanmış görünüyor. Bu da sorunun yalnızca yapay zekâda değil, kurumların temel siber hijyeninde yattığını gösteriyor.
Hindistan ve Anthropic örneklerinde etkilenen kuruluşlar ihlali kendi başlarına fark edememiş. Devletler bu tür olayları öğrenmek için büyük ölçüde şirketlerin gönüllü bildirimine bağımlı kalıyor. Türkiye'deki kurumlar için de ders net: kod depolarında bırakılan anahtarlar, aşırı yetkili bulut hesapları ve kontrolsüz yapılandırmalar, artık yalnızca insan saldırganlar için değil, otonom yazılımlar için de açık kapı anlamına geliyor.
Kaynak: TechCrunch
