Google, yapay zeka tarafından oluşturulan metinlerle gerçek metinleri ayırt etmek için filigran teknolojisini kullanmayı planlıyor.
Üretken yapay zekaların hızla gelişmesiyle birlikte teknoloji şirketleri, bu yapay zekaların çıktılarının tanınabilmesi için yeni araçlar geliştiriyor. Google, “SynthID TexT” adını verdiği teknoloji ile kamuya açık yapay zeka modelleri tarafından üretilen içerikleri tanımlamak için dijital filigran üzerinde çalışıyor.
SynthID TexT, Hugging Face yapay zeka platformu ve Responsible GenAI Toolkit üzerinden indirilebilecek. Google’ın resmi X hesabı üzerinden yapılan açıklamada, “SynthID TexT filigran aracını açık kaynaklı hâle getiriyoruz. Bu araç, geliştiricilere ve işletmelere ücretsiz olarak sunulacak ve yapay zeka tarafından üretilen içerikleri anlamalarına yardımcı olacak,” ifadesine yer verildi.
SynthID TexT nasıl çalışıyor?
Yapay zeka modelleri, çalışırken token dağılımı adı verilen bir yöntemi kullanır. Google’ın bu yeni teknolojisi, metinleri bu tokenler üzerinden eşleyerek çalışıyor. SynthID TexT, kelimelerin oluşturulma olasılıklarına dayalı bir desen oluşturarak metinlerde işaretlemeler yapıyor.
Google, bu teknolojinin bazı sınırlamaları olduğunu da kabul ediyor. Özellikle kısa metinler, yeniden yazılan veya başka dillere çevrilen içerikler ve bilgiye dayalı metinler söz konusu olduğunda modelin performansının tam anlamıyla yeterli olmayabileceğini belirtiyor.
Google, SynthID TexT’i Gemini yapay zeka modellerine entegre etti. Çin ve Kaliforniya gibi bölgelerde yapay zeka çıktılarının işaretlenmesi yasal olarak zorunlu hale getirilmiş durumda. Benzer düzenlemelerin daha fazla bölgeye yayılmasıyla birlikte bu tür yapay zeka işaretleme teknolojilerinin kullanımı da giderek artacak gibi görünüyor.
