Geçtiğimiz hafta beşerler, Google’ın Gemini (eski ismiyle Bard) yapay zeka sohbet robotundaki imaj oluşturma özelliğinin uygunsuz imajlar oluşturduğunu bildirmeye başladı. Sistemin, bilhassa koyu deri rengine sahip şahısları, bu karakterlere uygun olmayan tarihi yahut kurgusal rollerde tasvir ettiği bildiriliyordu.
Bu görsellerin rapor edilmesinin akabinde Google, Gemini’nin fotoğraf oluşturucuyla insanların sanat yapıtlarını yaratma yeteneğini süreksiz olarak kapatacağını duyurdu ve şirket, bir blog yazısı aracılığıyla Gemini’ye ne olduğuna dair bir açıklama yaptı.
Google Kıdemli Lider Yardımcısı Prabhakar Raghavan tarafından yazılan yazı, öncelikle şirketin Gemini görsel metin istemleri oluşturmak için kurallar oluşturduğunu ve Google’ın, bu kurallar sayesinde şiddet içeren yahut cinsel aksiyonları tasvir eden sanat yapıtları oluşturulmasından kaçınmasına yardımcı olacağını düşündüğünü belirtiyordu. Ayrıyeten sohbet robotun gerçek insanların manzaralarını oluşturması da istenmiyordu.
Aynı vakitte Google, bir kişinin sohbet robotundan futbol ekibindeki insanları göstermek üzere daha genel görseller istemesi durumunda Gemini’nin çeşitli etnik kökenleri tasvir etmesine de müsaade vermek istiyordu. Bir kişi, beyaz bir hekim yahut siyahi bir öğretmen üzere makul bir kişinin tasvir edilmesini istiyorsa, Gemini’nin de bu sanat yapıtını yapabilmesi gerekiyordu.
Daha sonra Raghavan, Gemini’nin metin isteminde yer alan sınırlamalardaki iki spesifik şeyin bu uygunsuz görsellerinin oluşturulmasına müsaade verdiğini yazdı. Raghavan’ın açıklaması şu formdaydı: “İlk olarak, Gemini’nin bir dizi insanı göstermesini sağlamak için yaptığımız ayarlama, açıkça bir aralık göstermemesi gereken hadiseleri hesaba katmada başarısız oldu. İkincisi, vakitle model, planladığımızdan çok daha temkinli hale geldi ve belli ihtarlara büsbütün karşılık vermeyi reddetti; birtakım çok meçhul istemleri yanlış bir biçimde hassas olarak yorumladı.”
“Bu iki şey, modelin birtakım durumlarda çok telafi etmesine, başkalarında ise çok temkinli olmasına yol açarak utanç verici ve yanlış imajlara yol açtı.”
Google’ın, Gemini manzara oluşturucusundaki bu kuralları görsel üretme yeteneklerini tekrar başlatacak formda düzeltmesinin ne kadar süreceği şimdilik bilinmiyor. Raghavan, Gemini’nin asla saldırgan sanat yapıtları üretmeyeceğine kelam veremese de Google’ın “bir sorun tespit edildiğinde süratle harekete geçmeye devam edeceğini” belirtti.