OpenAI, ‘ChatGPT’ ve ‘Codex’ tarafından oluşturulan metinlerin kaynağını belirlemeye yönelik yeni uygulamasını duyurdu. Şirketin 5 Ekim’de yaptığı açıklamaya göre, Avrupa Birliği’ndeki uygun kullanıcıların metinlerine önümüzdeki haftalarda görünmez filigran eklenmeye başlanacak. Tüm abonelik planlarını kapsayan uygulama, AB Yapay Zeka Yasası’nın üretilen içeriklerin makineler tarafından tanınabilecek şekilde işaretlenmesine ilişkin yükümlülüğüne dayanıyor.
İlk aşamada otomatik filigran uygulaması AB ile sınırlı tutulacak.
Türkiye’deki ChatGPT ve Codex kullanıcıları, açıklanan bölgesel uygulamanın dışında kalıyor. Buna karşılık OpenAI modellerini kendi yazılımlarına bağlayan API müşterileri, Türkiye dahil dünyanın her yerinde desteklenen modeller için özelliği açabilecek.
“textGrain” adı verilen teknoloji, metin oluşturulurken modelin kelime seçimine küçük müdahaleler yapıyor. Okuyucu, yazıya baktığında herhangi bir işaret görmüyor. İz doğrudan kelime seçimlerinde bulunduğu için, metin aynı ifadelerle kopyalanıp başka bir yere yapıştırıldığında korunabiliyor.
OpenAI’nin İngilizce metinler üzerinde yapılan testler sonucu yayımladığı değerlendirmelerden birinde, kelimelerin yüzde 10’unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık yüzde 92’den yüzde 66’ya düşürdü. Kelimelerin dörtte biri değiştirildiğinde oran yüzde 17’ye kadar geriledi.
Sistemin iki yönde hata yapma ihtimali var: Filigran bulunan bir metindeki izi kaçırabiliyor veya filigran bulunmayan bir metni işaretleyebiliyor. OpenAI, bu nedenle metin tespit aracını başlangıçta herkese açmayacak. Araca yalnızca onaylanan araştırmacılar ve uzman kuruluşlar erişebilecek.
Şirketin açıklamasına göre filigran, kullanıcının hazırladığı bir metnin yapay zekayla düzenlenmesiyle, baştan sona yapay zekaya yazdırılması arasındaki farkı tek başına anlamıyor.
