Activision, hakaret içeren söylemleri denetlemek için Modulate’in ToxMod sistemini kullanacak.
Oyunlar dünyanın dört bir yanındaki insanları eğlence ve ekip çalışmasıyla bir araya getirme gücüne sahip, ancak aynı zamanda oyun oynarken sinirlenip küfür ettiğimiz bir alan haline de gelebilir. Activision, Call of Duty’de doğrudan sesli sohbet denetimi için yapay zeka sistemi kullanan Modulate ile yeni bir işbirliği yaptığını duyurdu.
Modulate’in yapay zeka sistemi ToxMod, nefret söylemleri, radikalleşme ve kendine zarar verme gibi tehditleri gerçek zamanlı olarak tespit etmeye çalışıyor. Üç adımda çalıştığını iddia ediyor: sıralama, analiz ve yükseltme. ToxMod tüm sesli sohbetleri dinliyor ve hangilerinin daha fazla incelenmesi gerektiğini belirliyor. Bu işaretli veriler sunucularında saklanırken, diğer tüm veriler doğrudan ilk cihazda işlenecek. Şirket daha sonra tondan duyguya kadar her şeyi değerlendirdiğini, yalnızca “ne söylendiğini değil, aynı zamanda nasıl söylendiğini ve diğer oyuncuların buna nasıl tepki verdiğini” analiz ettiğini söylüyor. Son olarak, yapay zekayı en toksik olaylar hakkında uyarmaya çalışıyor ve harekete geçmeyi onlara bırakıyor. Şirket, “on milyonlarca oyuncuyu” koruduğunu iddia ediyor.
ToxMod’un entegrasyonu, mevcut metin merkezli ve raporlama sistemleriyle birlikte çalışarak toksik tepkilerin bir bütün olarak önlenmesine yardımcı olabilir. “Activision’ın baş teknoloji sorumlusu Michael Vance yaptığı açıklamada, “Özellikle rahatsız edici sesli sohbetle mücadele etmek uzun zamandır oyun dünyasında olağanüstü bir zorluktu. “Bu işbirliğiyle, Modulate’in küresel düzeyde bir uygulama için gerçek zamanlı olarak ölçeklenebilen son teknoloji makine öğrenimi teknolojisini getiriyoruz. Bu, tüm oyuncular için eğlenceli, adil ve sıcak bir deneyim yaratma ve sürdürme yolunda atılmış kritik bir adımdır.” Geçtiğimiz yıl Activision, oyunların moderasyon ekiplerinin sesli ve yazılı sohbetlerde küfür içeren dil kullanan oyuncuların sesini kapatmasına izin vermeye başladı.
