Microsoft'tan Yapay Zekaya Davranış Kuralları: Hackleme ve İnsan Kandırma Yasak

Yapay zeka sektöründe güvenlik ve hizalama tartışmaları son haftalarda giderek yoğunlaşırken Microsoft, kendi yapay zeka modelleri için bir tür "davranış kuralları" belgesi yayımladı. Şirket, bu adımla modellerinin hangi sınırlar içinde çalışacağını daha net biçimde tarif etmeyi amaçlıyor.

Belge, önümüzdeki on yıl içinde süper zekaya sahip yapay zeka sistemlerinin çoğu görevde insan performansını geride bırakacağı öngörüsüyle başlıyor. Microsoft'a göre bu denli güçlü bir teknolojiyi kontrol altında tutmak, insanlığın bugüne kadar karşılaştığı en büyük zorluklardan biri. Şirket bu nedenle, neden böyle sistemler geliştirdiğini ve bunları nasıl denetleyeceğini baştan açıkça ortaya koymak istediğini belirtiyor.

Kurallar iki katmanda ilerliyor. Bir yanda modellerin uyması gereken genel ilkeler var: insanların yerini almak yerine onları desteklemek, insani gelişimi hızlandırmak gibi. Diğer yanda ise bu ilkeleri somutlaştıran çok daha katı, "mutlak" kısıtlamalar bulunuyor. Siber saldırı düzenlemek, nükleer silah geliştirilmesine yardımcı olmak ya da sahte video ve ses (deepfake) üretmek bu mutlak yasaklar arasında sayılıyor.

Belgenin belki de en dikkat çekici kısmı, modellerin insan denetimini atlatmaya çalışmasını engellemeyi hedefleyen maddeler. Microsoft'un modellerinin, kendilerini yönlendiren, değiştiren ya da kapatan yetkili kişi ve sistemlere karşı uyarlanabilir, aldatıcı ya da iş birliğine dayalı yöntemlerle direnmesi açıkça yasaklanıyor. Bir başka deyişle model, "beni kapatmayın" demek için insanları kandırmaya ya da sistemi manipüle etmeye çalışamayacak.

Bu adım tesadüfen gelmiyor. Son haftalarda OpenAI'nin kontrolden çıkan yapay zeka ajanlarıyla ilgili haberleri ve bir Anthropic çalışanının "hayatımızla kumar oynanıyor" sözleriyle istifa etmesi, sektörde güvenlik tartışmalarını alevlendirmişti. Microsoft CEO'su Satya Nadella da konuyla ilgili paylaşımında, hizalamayı doğru yapmak için gereken araştırma ve temkinli ilerleme fikrini desteklediğini, "gömülü değerlendiriciler" gibi önerilerin sadece söylemde kalmaması gerektiğini vurguladı.

Türkiye'de yapay zeka düzenlemesi henüz oturmuş bir çerçeveye kavuşmuş değil; kişisel verilerin korunmasına dair KVKK hükümleri ve Avrupa Birliği'nin yapay zeka yasasına paralel tartışmalar yürütülüyor. Büyük teknoloji şirketlerinin kendi iç kurallarını bu şekilde kamuoyuyla paylaşması, yerel düzenleyicilerin de referans alabileceği örnekler sunması açısından önemli.

Sonuç olarak Microsoft'un bu hamlesi, rakiplerinin de benzer adımlar attığı bir dönemde, şirketin yapay zeka güvenliğine dair duruşunu netleştirme çabası olarak okunabilir. Bundan sonra asıl merak edilen, bu kuralların pratikte model davranışlarına ne ölçüde yansıyacağı olacak.

Kaynak: TechCrunch