OpenAI’dan ChatGPT ve Codex için ‘görünmez filigran’ adımı

OpenAI, Avrupa Birliği (AB) Yapay Zeka Yasası kapsamındaki şeffaflık zorunluluklarına uyum sağlamak hedefiyle, ChatGPT ve Codex tarafından oluşturulan metin çıktılarına görünmez istatistiksel filigranlar yerleştireceğini duyurdu. Şirket, “textGrain” adını verdiği bu sistemle, metinlerin yapay zeka tarafından üretildiğine dair izler bırakmayı amaçlıyor.

AB Kullanıcılarına Özel Uygulama

Önümüzdeki haftalardan itibaren geçerli olacak düzenleme kapsamında, AB sınırları içinde yer alan ChatGPT ve Codex kullanıcılarının metin çıktılarına görünmez işaretler eklenecek. Küresel ölçekteki API müşterileri için bu özellik isteğe bağlı hale getirilirken, varsayılan olarak kapalı sunulacak. OpenAI ayrıca, bulut ortakları üzerinden erişilen model çıktılarına da bu teknolojiyi entegre etmek için çalışmalarını sürdürüyor.

Metin Müdahaleleri Tespit Gücünü Etkiliyor

İnsan gözüyle fark edilemeyen bu istatistiksel sinyaller, metin üzerinde yapılan düzenlemeler karşısında hassasiyetini yitirebiliyor. Şirketin verilerine göre, 400 tokenlik bir metindeki kelimelerin yüzde 25’i eş anlamlılarıyla değiştirildiğinde tespit başarı oranı yüzde 17 seviyesine kadar geriliyor. Teknik kısıtlar ve hata payları nedeniyle OpenAI, bu doğrulama aracını kamuoyuna açmak yerine, ilk aşamada yalnızca onaylı uzman kuruluşlar ve araştırmacılarla paylaşacağını belirtti.

Filigranın Kapsamı ve Sınırları

OpenAI, filigran uygulamasının çıktı kalitesinde herhangi bir performans düşüşüne yol açmadığını vurguluyor. Bununla birlikte şirket, söz konusu işaretlerin metnin doğruluğunu teyit etmediğini, içeriği oluşturan kullanıcıyı veya hesabı ifşa etmediğini ve telif hakkı beyanında bulunmadığını hatırlatıyor. Bir metinde filigran bulunmaması, o içeriğin mutlak surette bir insan tarafından yazıldığı anlamına da gelmiyor.