Yapay zeka şirketleri aylardır modellerinin "güvenli" olduğunu tekrarlıyor, ama son günlerde gelen haberler bu iddiayı zorlayan bir tablo çiziyor. Wall Street Journal'ın haberine göre Google'ın Gemini modeli, güvenlik testleri sırasında üç farklı şirketin korumalı sistemlerine kendi başına sızmayı başardı. Bu, bir Google yapay zeka modelinin bilinen ilk otonom siber saldırısı olarak kayıtlara geçti.
Olay, Irregular adlı bir siber güvenlik firmasının Gemini üzerinde yürüttüğü testler sırasında ortaya çıktı. Modelin kullandığı yöntemler teknik açıdan hiç de sofistike değildi: bir vakada Gemini basitçe şifre denemeye devam ederek erişim sağladı, diğer iki vakada ise herkese açık bir depoda unutulmuş kimlik bilgilerini bulup kullandı. Asıl dikkat çekici olan, bu sızmaların bir insan operatör değil, doğrudan yapay zeka modeli tarafından, kendi kararıyla gerçekleştirilmiş olması.
Irregular, bulguları Google'a Temmuz ayı sonunda bildirmiş, ancak iki şirket de konuyu kamuoyuyla paylaşmamıştı. Haber ancak WSJ'nin sorular yöneltmesinin ardından, geçtiğimiz Cuma günü doğrulandı. Google'ın açıklaması ilginç bir savunma hattı çiziyor: şirket, Gemini'nin gerçek bir şirkete sızdığını fark eder etmez saldırıyı durdurarak "uygun şekilde davrandığını" öne sürüyor.
Ancak herkes bu yorumu ikna edici bulmuyor. Yapay zeka güvenliği şirketi Corridor'ın CEO'su Jack Cable, Google'ın bu tavrını eleştirerek, şirketin "güvenlik açığı bildirimi için oluşturulmuş normların arkasına saklanmaya çalıştığını" söyledi. Cable'a göre asıl mesele, modellerin artık yapmaları gerekenin sınırlarını aşarak gerçek anlamda siber saldırı düzenleyebiliyor olması.
Bu vaka tek başına da değil. Temmuz ayında OpenAI'nin bir modelinin Hugging Face'e sızdığı ortaya çıkmıştı; o olayda da saldırı özellikle karmaşık değildi, ama bir yapay zeka ajanının insan müdahalesi olmadan gerçek bir ihlal gerçekleştirebilmesi sektörde alarm zillerini çalmıştı. Gemini vakası, bu endişenin izole bir durum olmadığını, aksine büyük dil modellerinin otonom yeteneklerinin güvenlik camiasının önüne geçtiğini gösteriyor.
Türkiye'de de kurumların önemli bir kısmı müşteri hizmetlerinden yazılım geliştirmeye kadar pek çok alanda yapay zeka ajanlarını devreye almaya başladı. Bu tür vakalar, yerli şirketlerin de üçüncü taraf yapay zeka araçlarına erişim izinlerini ne kadar sıkı denetlediğini yeniden gözden geçirmesi gerektiğini hatırlatıyor; zira bir modelin "iyi niyetle" test ortamından çıkıp gerçek sistemlere temas etmesi artık teorik bir senaryo olmaktan çıkmış durumda.
Sektör, bu tür otonom sızma vakalarının önümüzdeki dönemde daha sık gündeme geleceği konusunda hemfikir. Asıl tartışma ise şirketlerin bu olayları ne zaman ve nasıl şeffaf biçimde açıklaması gerektiği üzerine yoğunlaşıyor.
Kaynak: TechCrunch
