ChatGPT Metinlerinde Görünmez Filigran Dönemi Başlıyor: Yapay Zekayla Yazılanlar Tek Tek Anlaşılacak!
Üretken yapay zeka devi OpenAI, Avrupa Birliği’nin (AB) yürürlüğe koyduğu katı şeffaflık kurallarına uyum sağlamak amacıyla dijital dünyada çığır açacak yeni bir teknolojik adımı duyurdu. Şirket, ChatGPT ve Codex modelleri tarafından oluşturulan metin ile kodların kaynağını tespit etmeyi sağlayan görünmez dijital filigran sistemini devreye sokmaya hazırlanıyor.
İçeriğin insan elinden mi yoksa yapay zeka tarafından mı üretildiğini netleştirecek bu hamle, yapay zeka tespiti ve dijital içerik güvenliği açısından kritik bir dönüm noktası olarak değerlendiriliyor.
Kelime Seçimlerine Görünmez Sinyal: "textGrain" Teknolojisi Nedir?
OpenAI, metin içeriklerinin kaynağını doğrulamak için "textGrain" adı verilen özel bir istatistiksel işaretleme metodunu kullanacağını açıkladı. Sistem, kullanıcı tarafından çıplak gözle fark edilemeyecek bir çalışma prensibine sahip:
Gizli İstatistiksel Desen: Yapay zeka modeli bir sonraki kelimeyi seçerken, olasılıkları gizli bir anahtar yardımıyla mikro düzeyde yönlendiriyor.
Özel Dedektör Taraması: Metinde gözle görünmeyen bu istatistiksel sinyal, yalnızca OpenAI’ın geliştirdiği özel doğrulama dedektörleri tarafından taranıp okunabiliyor.
Yüksek Performans: OpenAI yetkilileri, textGrain sisteminin Google’ın SynthID gibi bilinen diğer filigran çözümlerinin başarısını yakaladığını hatta bazı alanlarda geride bıraktığını bildirdi.
Ancak şirket; çok kısa metinlerde, matematiksel formüllerde ya da üzerinde yoğun düzenleme yapılmış içeriklerde tespit başarısının yüzde 80 seviyelerinde kaldığını ve günlük kullanımda %100 kesinlik sunamayacağını belirtti.
AB Yapay Zeka Yasası Zirvesinde Son Tarih: 2 Aralık!
Söz konusu dijital filigran kararı, Avrupa Birliği Yapay Zeka Yasası’nın 50. maddesi gereğince hayata geçiriliyor. Yasa; pazara sunulan üretken yapay zeka çıktılarının makine tarafından okunabilir bir formatta tanımlanabilir kılınmasını zorunlu tutuyor.
Zorunlu Uyum Süreci: OpenAI, Microsoft, Google, Anthropic ve Meta gibi devlerin AB standartlarına uyum sağlaması için belirlenen son tarih 2 Aralık.
Varsayılan Olarak Açık: Filigran özelliği, AB sınırlarındaki uygun ChatGPT ve Codex hesaplarında doğrudan aktif kılınacak. Diğer ülkelerdeki kullanıcılar ise bu sistemi isteğe bağlı tercih edebilecek.
Kullanıcı Gizliliği Korunacak Mı?
OpenAI, filigran tarama ve tespit yazılımlarının kullanıcı gizliliğini ihlal etmediğini vurguladı. Geliştirilen doğrulama yazılımının kullanıcı kimliğini, girilen komutları (prompt) veya sohbet geçmişini kesinlikle açığa çıkarmadığı ifade edildi.
İlk aşamada yalnızca onaylı araştırmacılar ve uzman kurumların erişimine sunulacak olan tespit altyapısının, ilerleyen süreçte açık kaynaklı hale getirilmesi planlanıyor.
