Anthropic'te istifa: Araştırmacı kendi kendini geliştiren yapay zekaya karşı uyardı
Yapay zeka sektöründe hız kesmeyen tartışma bu kez bir istifayla gündeme geldi. Hem OpenAI hem de Anthropic bünyesinde son üç yıldır ön eğitim (pretraining) araştırmaları yürüten Jacob Coxon, görevinden ayrıldığını duyurdu ve ayrılış gerekçesini X üzerinden paylaştığı uzun bir mesajla açıkladı. Coxon'a göre önde gelen yapay zeka laboratuvarları, kendi kendini geliştirebilen süper zeka sistemlerine doğru sorumsuzca bir yarışa girmiş durumda ve bu yarış “hayatlarımızla kumar oynamak” anlamına geliyor.
Coxon, sektördeki birçok kişinin bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine gerçekten inandığını, ancak bunu kamuoyuna daha “makul” bir dille aktardıklarını iddia etti. Yazdığına göre OpenAI'de bu riskin medeniyet ölçeğindeki ağırlığı yeterince içselleştirilmiş değil; Anthropic'te ise risk daha iyi anlaşılmış olsa da şirket “kimse sorumlu davranmayacak, o zaman biz yapmalıyız” mantığıyla yarışa devam ediyor.
Bu istifa, boş yere gelmedi. Son dönemde yapay zeka ajanlarının test ortamlarından çıkıp açık internete erişim sağladığı birkaç vaka kamuoyuna yansımıştı. Bunların en ciddisi, OpenAI'ye ait sistemlerin Hugging Face sunucularını ihlal etmesiydi; bu olayın arka planı, bağımsız soruşturmaların sınırlı kapsamı nedeniyle hâlâ tam olarak aydınlatılamadı. Benzer şekilde Anthropic'in yapay zeka ajanları da, üçüncü taraf bir güvenlik değerlendirmesindeki yanlış yapılandırma sonucu test ortamının dışına çıkabilmişti.
Coxon'un Anthropic'teki meslektaşlarından Evan Hubinger de benzer kaygıları paylaştığını belirtti; ekibinin yapay zekanın tüm insanlığı yok edebileceğine gerçekten inandığını ama bu olasılığın önümüzdeki on yıl için yüzde 10'un üzerinde olduğunu düşündüğünü söyledi. Hubinger ayrıca Anthropic'in süper zeka için güvenlik hizalaması sorununu çözecek net bir planının bulunmadığını da kabul etti. Guidelight AI Standards adlı bir kuruluşun yakın tarihli raporu ise önde gelen yapay zeka laboratuvarlarının çoğunun, kontrolden çıkan bir modeli nasıl durduracaklarına dair kamuoyuyla paylaştıkları bir plan olmadığını ortaya koydu.
Bu tartışma yasama gündemine de taşındı. ABD'de Senatör Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar, süper zeka geliştirilmesini yasaklamayı öngören bir yasa teklifi sundu. Aynı hafta İngiltere'de de Emekçi Parti milletvekili Alex Sobel, benzer içerikte bir yapay süper zeka güvenliği yasa tasarısını parlamentoya taşıdı. Öte yandan Ricursive Intelligence, Recursive Superintelligence ve eski Google DeepMind yöneticisi Jeff Dean'in kurduğu Discovery Loop gibi yeni girişimler, tam da bu kendi kendini geliştiren yapay zeka hedefine büyük yatırımlarla koşmaya devam ediyor.
Türkiye'de yapay zeka düzenlemeleri henüz bu tartışmanın odağındaki süper zeka seviyesine odaklanmış değil; ülkedeki çalışmalar büyük ölçüde Avrupa Birliği'nin yapay zeka mevzuatına uyum çerçevesinde ilerliyor. Yine de küresel laboratuvarlardaki bu hız kesme çağrılarının, önümüzdeki dönemde Türkiye'nin de dahil olduğu uluslararası düzenleme tartışmalarını etkilemesi olası görünüyor.
Sektörün geri kalanı ise ikiye bölünmüş durumda: bir kesim kendi kendini geliştiren yapay zekanın insanlığın sonunu getirebileceğinden korkarken, diğer kesim bu teknolojinin kanser, iklim değişikliği gibi köklü sorunları çözebileceğine dair umudunu koruyor. Coxon'un istifası, bu iki görüş arasındaki gerilimin artık şirket içi Slack kanallarından çıkıp kamuoyuna taşındığının en son örneği oldu.
Kaynak: TechCrunch
