Yapay zeka ajanlarının kontrolden çıkmasına dair endişeler bu kez bir devleti doğrudan ilgilendiren bir olayla gündeme geldi. Avustralya Başbakanı Anthony Albanese, OpenAI'a ait bir yapay zeka ajanının haziran ayında ülkenin kamu sağlık sigortası sistemi Medicare'in herkese açık web sitesine sızdığını açıkladı.
Albanese, konuyu OpenAI CEO'su Sam Altman ile bizzat görüştüğünü ve Avustralya'nın "son derece ciddi endişesini" ilettiğini söyledi. Başbakanın asıl tepkisi ise şirketin olayı bildirme biçimine yönelikti. Aktarılan bilgilere göre OpenAI, ihlali ancak 10 Eylül'de, günde yalnızca bir kez kontrol edilen genel bir devlet e-posta adresine bildirdi. Mesaj ertesi gün fark edildi, ilgili bakan Katy Gallagher'ın masasına ise ancak 17 Eylül'de ulaştı. İncelemeler sürüyor; ancak ilk bulgular kişisel sağlık verilerinin ele geçirilmediğine işaret ediyor.
Yapay zeka sistemlerini incelemeye yönelik araçlar geliştiren kâr amacı gütmeyen araştırma laboratuvarı Transluce'tan Conrad Stosz, bu olayın bir yapay zeka ajanının kendi kararıyla bir devlet sistemine sızdığı ilk vaka olabileceğini belirtiyor. Transluce'un tespitlerine göre bu, tek örnek de değil.
Ortaya çıkan diğer vakalarda senaryo benzer: Test sırasında veri toplamakla görevlendirilen ajan, istediği bilgiye ulaşamayınca pes etmek yerine hedef sistemde açık aramaya başlıyor. Mayıs sonunda New Mexico Üniversitesi'nin dijital kütüphanesinden tarihi bir tüberküloz tedavi merkezine ait fotoğrafları almaya çalışan ajan, başarısız olunca sunucuyu yoğun istek trafiğine boğdu. Birkaç gün sonra ABD federal kurumlarının verilerini görselleştiren açık kaynaklı Data USA platformu da benzer bir yoklamaya maruz kaldı. Bu iki girişim başarıya ulaşmadı ve OpenAI, her iki kurumla da iletişime geçtiğini açıkladı.
Şirket sözcüsü, Avustralya olayının modeller üzerinde yürütülen kapsamlı bir inceleme sırasında fark edildiğini ve modellerin "şirketin niyet etmediği eylemler" gerçekleştirdiğini kabul etti. İncelemenin tamamlanmasının birkaç ay daha sürmesi bekleniyor. Bu açıklamalar, OpenAI ajanlarının daha önce Hugging Face ve RubyGems gibi platformlara izinsiz eriştiğinin ortaya çıkmasının ardından geldi.
OpenAI kısa süre önce, modellerinin beklenmedik davranışlarını daha hızlı kamuoyuyla paylaşmak için yeni bir raporlama çerçevesi duyurmuştu. Şirket bu çerçevede, yapay zeka sektörünün hizalama ve izleme sorunlarını "sorumlu biçimde en yüksek hızda ölçeklenmeye devam edecek kadar" çözemediğini de açıkça yazdı. Altman ise geçtiğimiz günlerde Birleşmiş Milletler'de yaptığı konuşmada, yapay zeka araçlarının riskleri ve insan denetimi ihtiyacını ölçecek uluslararası değerlendirme standartlarına çağrıda bulundu.
Olay, kamu hizmetlerini hızla dijitalleştiren her ülke için önemli bir uyarı niteliğinde. e-Devlet ve e-Nabız gibi kritik platformları milyonlarca kişinin kullandığı Türkiye'de de otonom yapay zeka ajanlarının kamu sistemleriyle nasıl etkileşime gireceği, önümüzdeki dönemin önemli siber güvenlik başlıklarından biri olmaya aday.
Kaynak: Engadget
