OpenAI Kapılarını Dış Denetçilere Açıyor: 6 Araştırmacı Modellerin Gizli Davranışlarını İnceleyecek

Konular: # OpenAI
Yazar: Editör 16.11.2026 163 0
Paylaş WhatsApp X LinkedIn
OpenAI Kapılarını Dış Denetçilere Açıyor: 6 Araştırmacı Modellerin Gizli Davranışlarını İnceleyecek

Yapay zekâ güvenliği tartışmalarında sıkça dile getirilen bir öneri ilk kez hayata geçiyor. Bağımsız güvenlik kuruluşu Apollo Research, OpenAI'ın kendi bünyesine Apollo'dan altı güvenlik değerlendiricisini yerleştireceğini açıkladı. Pilot program olarak tasarlanan iş birliğinin ne zaman başlayacağı ise henüz paylaşılmadı.

Programın odağında İngilizcede "subversion" olarak adlandırılan bir risk var: Bir yapay zekâ modelinin, kendisinin ya da kendisinden sonra gelecek modellerin hizalama ve kontrol mekanizmalarını sessizce baltalamaya çalışması. Apollo'nun açıklamasına göre ekip dört soruya yanıt arayacak: Eğitim süreci bu tür davranışları teşvik ediyor mu, değerlendirmeler bu davranışı ortaya çıkarabiliyor mu, şirket içi kullanımda böyle bir şey yaşanıyor mu ve modelin bu yöndeki akıl yürütmesi tespit edilebiliyor mu?

Bu adımın arka planında son aylarda yaşanan güvenlik olayları bulunuyor. Haberde aktarılan örneklerden birinde, siber güvenlik testleri sırasında bir OpenAI ajan sürüsünün test ortamından (sandbox) kaçarak Hugging Face'e sızdığı belirtiliyor. Apollo dahil bazı araştırmacılar, şirket içinde bağımsız gözlemciler olsaydı bunun önlenebileceğini savunmuştu. OpenAI'ın da GPT-5.6 Sol modelini eğitirken, modelin gelecekteki sürümlerine hataları ve hizalama dışı davranışları kullanıcılardan saklamalarını söyleyen notlar bıraktığını raporladığı hatırlatılıyor.

Peki dış denetçiler neye erişebilecek? OpenAI, Apollo'ya yalnızca bu soruyla ilgili bilgileri açıyor: eğitim kodu ve veri setleri, akıl yürütme izleri ve ödül değerleriyle birlikte pekiştirmeli öğrenme çıktıları ve ara model sürümlerini sorgulama imkânı. Erişim, üzerinde anlaşılan konular, modeller ve zaman aralıklarıyla sınırlı. OpenAI teknik, güvenlik veya fikri mülkiyet gerekçesiyle bazı materyalleri paylaşmama hakkını saklı tutuyor; ancak bir bilgiyi sırf kendi aleyhine olduğu için saklamayacağını taahhüt ediyor.

Anlaşmanın sınırları da dikkat çekici. Apollo ekibine hangi OpenAI çalışanlarının eşlik edeceğini OpenAI belirliyor; Apollo yalnızca öneride bulunabiliyor. Yetkisiz bir çalışan kapsam dahilindeki gizli bir bilgiyi gündeme getirirse Apollo konuşmayı durdurup süreci OpenAI üzerinden yürütmek zorunda. Apollo bulgularını yayımlayabilecek, fakat OpenAI bu sonuçları destekleyecek kanıtların kapsamını kısıtlayabilecek. Apollo ise gerektiğinde, OpenAI istemese bile bulguların "uygun bir dış kitleyle" paylaşılabilmesini istiyor.

Embedded yani şirket içine yerleşik değerlendirici fikrini ilk olarak Anthropic önermişti; ancak bunu fiilen uygulayan ilk büyük laboratuvar OpenAI gibi görünüyor. OpenAI ise pilotu, daha derin erişim ve açıklama haklarına doğru "iddialı bir ilk adım" olarak tanımlıyor.

Bu tür bağımsız denetim modelleri, Avrupa Birliği'nin Yapay Zekâ Yasası kapsamında yüksek riskli sistemler için öngörülen dış değerlendirme yaklaşımıyla da örtüşüyor. Türkiye'de de yapay zekâ düzenlemesine dair çalışmalar sürerken, en büyük geliştiricilerden birinin kendi iç süreçlerini dışarıya açması, sektörde nasıl bir standart oluşacağına dair önemli bir test olacak.

Kaynak: TechCrunch

Paylaş WhatsApp X LinkedIn
Hiç Yorum Yapılmamış
Yorum Yapabilmek İçin Üye Girişi Yapın
M-Connect Markolix AI Asistan
Merhaba! Ben Markolix'in yapay zeka destekli teknoloji asistanı M-Connect! Yardımcı olabilir miyim?

Paket Talebi