Microsoft CEO'su Satya Nadella, cumartesi sabahı X'te yaptığı paylaşımda yapay zekânın "güven mimarisi"nin yeniden düşünülmesi gerektiğini savundu. Nadella'ya göre yapay zekâ sistemleri, çıktısı ya kabul edilen ya da reddedilen iç içe kara kutular gibi ele alınmamalı.

Önerdiği çerçeve dört temele dayanıyor. Birincisi, modelin kendisi ile onu yöneten yazılım katmanının birbirinden ayrılması. İkincisi, kontrollerin ve güvenlik önlemlerinin modelin dışına taşınması. Üçüncüsü, modelin yaptığı önemli işlemlerin, değiştirilemez ve insanların okuyabileceği biçimde kayda geçmesi. Dördüncüsü ise yetkili bir kişinin, model bir görevin ortasındayken bile onu durdurabilmesi ya da tamamen kapatabilmesi.

Nadella'nın en çarpıcı önerisi, geliştiricilerin modelin ele geçirilmiş olabileceğini baştan varsayması ve sistemi buna göre sınırlandırması. Bunu bir "acil fren"e benzetiyor: Frenin işe yaraması için kullanılmak zorunda kalınacağı günü beklemek yerine, en baştan sisteme dahil edilmesi gerekiyor.

Paylaşımın zamanlaması da anlamlı. Önde gelen yapay zekâ şirketleri, modellerinin kontrolünü kaybettiği anlara dair olayları giderek daha açık biçimde kabul ediyor. Nadella'nın çıkışı, Anthropic CEO'su Dario Amodei'nin daha temkinli bir yapay zekâ geliştirme planı yayımlamasının ardından geldi. Ayrıca Nadella'nın, ABD yönetiminin tercih ettiği "süper zekâ" ifadesini kullanması da dikkat çekti.

Yapay zekâ ajanlarının e-posta, dosya ve ödeme sistemleri gibi gerçek araçlara erişmeye başladığı bir dönemde bu tür mimari önerileri soyut bir tartışma olmaktan çıkıyor. Türkiye'de de kurumsal yapay zekâ kullanımı artarken, kayıt tutma ve insan müdahalesi gibi ilkelerin sektör standardı haline gelip gelmeyeceği önümüzdeki dönemde izlenmeye değer.

Kaynak: TechCrunch