Bing, Google ve DuckDuckGo arama motorları, isteğe dayalı olmayan ve yapay zeka ile oluşturulan deepfake pornografisini kimi makul arama sonuçlarının en üstüne koyduğu için ağır bir tenkit yağmuruna tutuluyor. Bu tenkitler, NBC News’in yapay zeka odaklı pornografinin erişilebilirliğiyle ilgili birtakım tasaları vurgulayan haberinin yayınlanmasının akabinde geliyor.
Müstehcen deepfake görüntüler, yepyeni pornografik malzeme kullanılarak ve oyuncuların (çoğunlukla aktrisin) yüzünün belli bir gerçek şahısla (örneğin bir ünlüye) değiştirilmesiyle oluşturuluyor. Bu değiştirme, yapay zeka tarafından otomatik olarak yapılıyor ve düzmece manzaraları oluşturan kullanıcının sadece yapay zekayı kurbanın fotoğraflarıyla beslemesi kâfi oluyor.
NBC News’in 36 bayan ünlüden oluşan bir örnek üzerinde, oyuncu ismi ve “deepfake” sözünün birleşimi kullanılarak gerçekleştirdiği testlere nazaran, Bing ve Google neredeyse tüm olaylarda deepfake görüntü ve görsellerini arama sonuçlarının en üstünde gösterdi. Google en üst sıralarda 34 adet bu cins sonuç verirken, Bing 35 sonuç verdi. NBC News, DuckDuckGo’nun da misal problemleri olduğunu belirtirken sorunun boyutunu belirtmedi.
Ayrıca NBC News, rıza dışı deepfake pornografi sorunuyla ilgili makale ve haberlerin, “sahte çıplaklar” terimi arandığında uygunsuz içeriklerden daha alt sıralarda gösterilmesinden de şikayetçiydi.
Yine de NBC News’in, Bing’in ve Google’ın kullanıcıya müstehcen içerik gösterilmesini engelleyen güvenlik özelliklerini kapattıktan sonra aramaları yaptığını kabul ettiğini belirtmekte yarar var.
Bu ufak ayrıntıya karşın, yapay zeka dayanaklı pornografiye kolay erişilebilirliğin değerli bir sorun olduğunu ve bu çeşit içerik arayan herkesin muhtemelen yerleşik gözetici özellikleri kapatacağı rahatlıkla söylenebilir. İstek dışı müstehcen deepfake içerikler, tabiatı gereği yasa dışıdır ve bu nedenle Microsoft, Google ve oburlarının ele alması gereken içerik cinsleri ortasında yer alıyorlar.
Deepfake’e karşı ne yapılabilir?
Daha gelişmiş teknolojik tedbirleri uygulamaya koymanın en kolay yolu yahut muhtemelen birinci, süreksiz adımı, bu çeşit içerikleri yayınladığı bilinen web sitelerinin arama sonuçlarından çıkartılması yahut büsbütün yasaklanması olabilir. NBC News’in bildirdiğine nazaran, testlerindeki en uygun sonuçların yarısından fazlası popüler bir deepfake web sitesine yahut bir rakibine temaslardan oluştuğu için bu cins bir adım, arama sonuçlarının şu anda ziyanlı niteliğini değerli ölçüde azaltabilir.
NBC News’in yorum talebine karşılık vermeyen tek şirket Microsoft oldu. DuckDuckGo sözcüsü, web kontakları ve görsel sonuçları için ana kaynağının Bing olduğunu söyledi. Ayrıyeten DuckDuckGo, örneğin muhakkak bir içeriğin aramadan silinmesini istemek üzere saklılıkla ilgili bir istek gönderme yolları da sunuyor.
Google da deepfake mağdurları için de emsal bir seçenek sunuyor lakin NBC News, uzmanlara ve aktivistlere atıfta bulunarak bunun kâfi olmadığını savunuyor. Ayrıyeten, incelenmek üzere hassas içeriğe sahip URL’leri göndermeleri istenen mağdurların bu süreçte daha fazla ziyan görmesi mümkün olabilir.
