Google, geçici bir süreliğine Gemini adlı yapay zeka tabanlı insan görseli oluşturma servisini durdurma kararı aldı. Gemini, kullanıcılara gerçekçi insan görselleri oluşturma imkanı sunarak kısa sürede büyük ilgi çekmişti. Ancak servisin, komutları yanlış anladığı ve ırkçı içerik ürettiği yönündeki eleştiriler nedeniyle durdurulma kararı alındı.
Google, yaptığı ilk açıklamada Gemini servisine yöneltilen ırkçılık eleştirilerini kabul etti. Ardından, şirket Gemini servisinin insan oluşturma kategorisini geçici olarak durdurma kararı aldı.
Sosyal medyada, Google’ın yapay zeka servisi Gemini, özellikle insan yüzleri konusunda ırkçılığa varan hatalar yaptığı gerekçesiyle büyük eleştiri almaktadır. Ilıman bir örnekte, bir kullanıcı 1820’lerde İskoçya’da doğan insanları oluşturmasını istediğinde, ortaya çıkan sonuç oldukça şaşırtıcıydı.
Gemini’ye yönlendirilen bir başka komut, Viking görselleri oluşturmasıydı. Ancak görüldüğü gibi Gemini, tüm görüntüleri İskandinav olmayan, Siyahi, Asyalı ve Kızılderili olarak oluşturdu.
Artan eleştirilere yanıt olarak, Google, X platformu üzerinden yaptığı açıklamada Gemini ile insan görseli oluşturma servisini geçici bir süreliğine durdurma kararı aldığını duyurdu. Şu an için servisin ne zaman tekrar faaliyete geçeceği belirsizliğini koruyor.
Açıklama: Gemini’nin görüntü oluşturma özelliği ile ilgili son sorunları gidermek için zaten çalışıyoruz. Bunu yaparken, kişilerin görüntü oluşturmasını duraklatacağız ve yakında geliştirilmiş bir sürümü yeniden yayınlayacağız.