OpenAI'ın en uzun süredir çalışan güvenlik ekibi üyelerinden David Robinson, 3,5 yıllık görevinden ayrıldı ve The Atlantic'te yayımladığı bir yazıyla şirketin "kültürünün bozuk" olduğunu savundu.

Robinson'a göre OpenAI, yeterli güvenlik önlemlerini almak yerine hızlı ürün çıkarmaya öncelik veriyor. Yazısında somut örnekler de var: OpenAI'ın yapay zeka ajanlarının Hugging Face sistemlerine sızması ve şirketin kontrolden çıkmış ajanları sürekli yeniden keşfetmesi bunlardan bazıları.

Robinson'ın önerisi dikkat çekici bir benzetmeye dayanıyor: Öncü yapay zeka şirketleri tıpkı nükleer santraller ya da yoğun havalimanları gibi, çok katmanlı yedeklilik sistemleriyle çalışmalı. Yani tek bir hatanın felakete dönüşmesini engelleyen birden fazla emniyet katmanı bulunmalı.

OpenAI cephesinden konuşan sözcü Drew Pusateri ise şirketin güvenlik önlemlerini güçlendirmeye devam ettiğini ve gerektiğinde eğitim süreçlerini durdurduğunu söyledi. Robinson ise mesajını güçlendirmek için bir halkla ilişkiler firmasıyla çalıştığını kabul etti; bu yaklaşım, daha önce Jacob Coxon'ın yapay zeka güvenliği eleştirilerinde görülen bir yöntemi andırıyor.

Tartışma, yapay zeka alanındaki hız ile güvenlik arasındaki gerilimin hâlâ çözülmediğini gösteriyor. Türkiye'de de yapay zeka araçlarının kamu ve özel sektörde hızla benimsendiği düşünüldüğünde, bu tür iç eleştirilerin sektörün geleceği için önemli bir sinyal olduğu söylenebilir.

Kaynak: TechCrunch