Taylor Swift’in yapay zeka tarafından üretilen pornografik manzaraları, yapay zeka ile üretilen uydurma pornografinin yaygınlaşması ve yayılmasını engellemenin zorluğunu bir kere hepimize gösterdi.
X’te yayınlanan bu tip Swift imgelerini paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan evvel 45 milyondan fazla görüntüleme, 24.000 tekrar paylaşım ve yüz binlerce beğeni aldı. Üstelik gönderi kaldırılmadan evvel yaklaşık 17 saat boyunca platformda yayında kaldı.
Kullanıcılar viral gönderiyi konuşmaya başlayınca imajlar yayılmaya başladı ve başka hesaplarda tekrardan paylaşıldı. Üstelik birçoğu hala yayında ve o vakitten beri yenileri ortaya çıktı. Birtakım bölgelerde “Taylor Swift AI” terimi trend topic oldu ve görsellerin daha geniş kitlelere ulaşmasını sağladı.
X’in yapay ve manipüle edilmiş medya ve istek dışı çıplaklıkla ilgili siyasetleri bu cins içeriklerin platformda yer almasını açıkça yasaklıyor.
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024
Swift’in hayran kitlesi, paylaşımların birçoklarının bu kadar uzun müddet yayında kalmasına müsaade verdiği için X’e adeta savaş açmış durumda. Hayranlar, manzaraları dolanıma sokmak için kullanılan hashtag’leri, Swift’in gerçek kliplerini tanıtan iletilerle doldurarak düzmece imgeleri gizlemeye çalıştı.
Bu olay, deepfake pornoyu ve gerçek insanların yapay zeka tarafından üretilen manzaralarını engellemenin ne kadar güç olduğunu ortaya koyuyor. Birtakım yapay zeka manzara oluşturucuları ünlülerin çıplak, pornografik ve fotogerçekçi manzaralarının üretilmesini önleyen kısıtlamalara sahip, lakin kimileri açıkça bu türlü bir hizmet sunuyor. Geçersiz manzaraların yayılmasını tedbire sorumluluğu çoklukla toplumsal platformlara düşüyor, bu da en yeterli şartlarda yapılması güç olabilecek bir şey ve X üzere moderasyon kabiliyetlerini yitirmiş bir şirket için daha da sıkıntı.
X, şu anda AB tarafından “yasadışı içerik ve dezenformasyon yaymak” için kullanıldığı savlarıyla soruşturuluyor ve İsrail – Hamas savaşıyla ilgili yanlış bilgilerin platformda yayıldığının tespit edilmesinin akabinde kriz protokollerinin sorgulandığı bildiriliyor.