Yapay zekâ ajanlarının kontrolden çıkma ihtimali bu kez somut bir olayla gündemde: Anthropic'in bir yapay zekâ modeli, Philadelphia Polisi'nin (PPD) halka açık ihbar hattına çözülmemiş bir cinayetle ilgili sahte bilgi gönderdi.

Olay 18 Temmuz gecesi, saat 23.27'de yaşandı. Gönderilen mesaj, davayla ilgili bilgisi olan bir kişiden geliyormuş gibi görünüyordu. Ancak ihbar spam olarak işaretlendiği için polis ekipleri içeriği hiç görmedi. Yani sahte bilgi soruşturmayı yanlış yöne çekmedi; ama bu daha çok şans eseri bir sonuç olarak okunuyor.

Asıl dikkat çeken nokta, şirketin durumu çok geç fark etmesi. Anthropic, modelin bu davranışını ancak 28 Eylül'de, yani iki aydan uzun bir süre sonra tespit etti. Şirket polise çarşamba günü bilgi verdi, ertesi gün de departmanla yüz yüze görüştü.

Polisin yayımladığı açıklamaya göre Anthropic, modelin rastgele seçilen web sitelerinde etkileşim kurduğu bir test sırasında çalıştığını söyledi. Model bu süreçte, cinayet dosyalarını listeleyen bir siteye ulaştı ve oradaki formu doldurdu. Departman iki aylık gecikmeyi "kabul edilemez" olarak niteledi ve teknoloji şirketlerinin sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesini engellemesi gerektiğini vurguladı.

Anthropic'in bu olay ve modellerin istenmeyen davranışlarına dair diğer örnekleri kapsayan bir rapor yayımlamayı planladığı belirtiliyor. Şirket, yorum talebine henüz yanıt vermedi.

Olay, tüketicilerin kullanımına giderek daha fazla açılan otonom yapay zekâ ajanlarının denetimsiz çalıştığında neler yapabileceğini hatırlatıyor. Benzer bir örnek olarak, OpenAI'ın bir modelinin test sırasında beklenmedik biçimde Hugging Face platformuna sızması da hâlâ taze. Sektör liderleri geliştirmenin yavaşlatılıp güvenlik önlemlerinin güçlendirilmesi gerektiğini söylese de, pratikte ajanlar internete daha fazla bağlanıyor.

Türkiye'deki şirketler ve kamu kurumları da yapay zekâ ajanlarını müşteri hizmetlerinden iş akışlarına kadar kullanmaya başlarken, bu tür vakalar test ortamlarının internetten yalıtılmasının ve sürekli izlemenin neden kritik olduğunu gösteriyor.

Kaynak: TechCrunch