OpenAI, Avrupa Birliği'ndeki kullanıcılar için ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran eklemeye hazırlanıyor. Önümüzdeki haftalarda devreye girecek uygulama, AB'deki tüm abonelik kademelerini kapsayacak. API geliştiricileri ise dünyanın her yerinden özelliği hemen deneyebilecek; ancak küresel ölçekte varsayılan olarak kapalı kalacak.

Şirketin textGrain adını verdiği yöntem, metne gözle görülen bir işaret koymak yerine modelin kelime tercihlerini ince biçimde yönlendiriyor. Okuyucunun fark edemeyeceği istatistiksel bir örüntü oluşuyor ve özel bir dedektör bu örüntüyü yakalayabiliyor. OpenAI, işaretin kopyala-yapıştır sonrasında da korunduğunu ve model performansında anlamlı bir düşüş yaratmadığını söylüyor.

Hamlenin arkasındaki asıl itici güç düzenleme. 2 Ağustos'ta yürürlüğe giren AB Yapay Zeka Yasası'nın şeffaflık maddeleri, yapay zekâ ile üretilen içeriğin tespit edilebilir biçimde işaretlenmesini şart koşuyor. OpenAI, yöntemi Pennsylvania ve Yale Üniversitesi'nden araştırmacılarla birlikte hazırladığı teknik bir raporla da açıkladı.

Yine de çözüm kusursuz değil. Şirketin kendi testlerine göre kelimelerin yüzde 10'u eş anlamlılarıyla değiştirildiğinde tespit oranı yaklaşık yüzde 92'den yüzde 66'ya geriliyor. Kısa metinlerde, matematiksel içeriklerde ve çevrilmiş metinlerde de tespit zorlaşıyor. OpenAI bu yüzden altını çiziyor: filigranın bulunmaması, metnin bir insan tarafından yazıldığını kanıtlamaz.

Haber, Anthropic'in Ağustos ayında Claude için benzer bir filigran uygulaması duyurmasının ardından geldi. O dönemde bazı kullanıcılar, iş yerindeki kullanım açısından endişelerini dile getirmişti. Yani sektörde filigran konusunda bir uzlaşıdan çok, düzenlemenin zorladığı bir yön değişimi var.

Türkiye açısından bakınca doğrudan bir etki yok; özellik şimdilik yalnızca AB kullanıcılarına açık. Ancak AB düzenlemeleri çoğu zaman global ürün kararlarını da şekillendiriyor. Türkiye'de yapay zekâ ile yazılmış ödev, haber ve içeriklerin tespiti tartışılırken bu tür filigranlar ileride önemli bir referans olabilir.

Kaynak: TechCrunch