Anthropic, Claude'un Yemen'de Füze Geliştirmede Kullanıldığını Doğruladı
Yapay zeka şirketi Anthropic'in yayımladığı yeni bir tehdit istihbaratı raporu, teknoloji dünyasında endişe verici bir gerçeği gözler önüne serdi: Claude adlı yapay zeka modeli, Yemen'in kuzeyinde faaliyet gösteren bir silah geliştirme hücresi tarafından füze ve güdümlü roket projelerinde kullanılmış. Şirketin kimliğini açıklamadığı bu grubun, bölgedeki Husi kontrolündeki topraklarda örgütlü şekilde çalıştığı değerlendiriliyor.
Raporun en çarpıcı yanı, söz konusu hücrenin tek bir projeyle sınırlı kalmaması. Aynı anda üç ayrı silah programı yürütülmüş: hedefe kilitlenme yeteneğine sahip güdümlü bir roket, menzili 2 bin kilometreyi aşması planlanan çok aşamalı bir balistik füze ve "R2000" kod adlı, hipersonik süzülme aracı varyantı da içeren bir füze ailesi. Anthropic, bu menzil rakamının henüz test edilmiş bir performans değil, geliştirme hedefi olduğunu özellikle vurguluyor.
Belki de en dikkat çekici detay, Claude'un burada yalnızca bilgi kaynağı olarak değil, adeta bir mühendis gibi kullanılmış olması. Hücre, füze ve roketlerin uçuşunu yöneten güdüm-seyrüsefer-kontrol yazılımlarının geliştirilmesinde, uçuş simülasyonlarında ve hatta başarısız bir saha testinin ardından yapılan hata analizinde doğrudan Claude'a başvurmuş. Sistemi adeta küçük bir yazılım ekibi gibi organize ederek bir oturumda kod yazdırılırken başka oturumlarda araştırma ve kod incelemesi yaptırılmış.
Bu noktada asıl soru şu: Claude'un güvenlik mekanizmaları neden devreye girmedi? Anthropic'e göre aslında girdi; şirket, talep edilen işlemlerin önemli bir kısmını engellediğini belirtiyor. Ancak hücre, gerçek amacını gizleyerek ve projeyi küçük, masum görünen parçalara bölerek bu engelleri kısmen aşmayı başarmış. Bu da yapay zeka güvenliğinde yeni ve zorlu bir cepheyi işaret ediyor: sorun artık modelin doğrudan yasaklı bir isteğe "hayır" diyememesi değil, kötü niyetli kullanıcıların büyük bir projeyi fark edilmeyecek küçük görevlere bölerek sistemi adım adım manipüle etmesi.
İyi haber ise geliştirilen güdümlü roketin sahada yapılan testte başarısız olması ve Anthropic'in herhangi bir operasyonel silahın fiilen kullanıldığına dair kanıt bulunmadığını açıklaması. Şirket, hücreyle bağlantılı hesapları kapattığını, elde ettiği bulguları kamu ve özel sektör ortaklarıyla paylaştığını ve bu vakadan yola çıkarak yeni tespit sistemleri geliştirdiğini duyurdu.
Anthropic'in raporunda Yemen vakası tek örnek değil; toplam altı farklı konvansiyonel silah geliştirme girişimi belgelenmiş, bunlar arasında Çin ve Rusya bağlantılı olduğu değerlendirilen tedarik faaliyetleri de yer alıyor. Türkiye'de de savunma sanayii giderek daha fazla yerli yazılım ve otonom sistemlere yöneliyor; bu da yapay zeka destekli mühendislik araçlarının hem meşru savunma projelerinde hem de kötüye kullanım senaryolarında ne denli merkezi bir rol oynayabileceğini gösteriyor. Olay, gelişmiş dil modellerinin mühendislik kapasitesini nasıl hızlandırabildiğini ve bu gücün denetim altında tutulmasının ne kadar kritik olduğunu bir kez daha gündeme taşıyor.
Kaynak: ShiftDelete.Net
