Google'ın yeni yapay zekâ modeli Gemini geçtiğimiz günlerde insan resimleri oluşturmasını sağlayan özellliğini bir süreliğine askıya aldı. Google'ın bu kararı vermesinin sebebi yapay zekânın oluşturduğu insan modelleri tarihsel alanda ırkların yanlış temsil edilmesi oldu.
Gemini, rakibi OpenAI'nin ChatGPT'si gibi görseller oluşturma özelliğine sahipti. Ancak lansmandan kısa bir süre sonra kullanıcılar tarihi karakterleri resmederken büyük hatalar yapıldığını fark etti. Örneğin bir kullanıcı yapay zekâdan "1800lerde bir ABD senatörü" canlandırmasını istedi ve yapay zekâ siyahi bir kadın canlandırdı. ABD'de ilk siyahi kadının 1992'de seçilmesi sebebiyle bu görsel tepki topladı. Benzer bir şekilde Gemini 2. Dünya Savaşı'ndaki Almanların üniformalarını da hatalı canlandırdı. Google tepkilerin ardından Gemini'nin oluşturduğu görsellerin yanıltıcı olduğunu kabul ederek uygulamanın görsel oluşturma özelliğini bir süreliğine askıya aldı.
.png "Adsız tasarım (39).png")
Bir yapay zekâ aracı ilk kez daha fazla beyaz insan tasarlamadığı için eleştiriyle karşı karşıya kaldı. Washington Post'un bir makalesine göre, Stable Diffusion XL gibi diğer görüntü oluşturucular, kullanıcıdan "çekici" veya "yaratıcı" insan görüntüleri oluşturması istendiğinde daha fazla beyaz insan görüntüsü üretmekle suçlanıyor. Gemini bunun üzerine farklı ırklardan insanları sergiliyordu ancak ırkçılıkla suçlanmaktan kurtulamadı. Gemini'nin yeni bir görsel oluşturucuyla ne zaman tekrar kullanıma hazır olacağı ise şu an belli değil.