2018’de Florida’daki Parkland okulunda gerçekleşen silahlı hücumda öldürülen bir gencin ebeveynleri, ülkede silah maddelerinin daha katı hale getirilmesi için dayanak toplamak gayesiyle The Shotline isminde yeni ve yavuz bir proje başlattı.
The Wall Street Journal’ın haberine nazaran Shotline, silahlı şiddet sonucu öldürülen çocukların seslerini tekrar oluşturmak ve kayıtları otomatik aramalar yoluyla yasa yapıcılara göndermek için yapay zekayı kullanıyor.
Proje, Florida’nın Parkland kentindeki bir lisede silahlı bir kişinin 17 kişiyi öldürmesi ve bir düzineden fazla kişiyi yaralamasından altı yıl sonra, Çarşamba günü başlatıldı. ABD çapında silahlı şiddet olaylarında hayatını kaybeden, kimileri on yaşında olan altı çocuğun ve genç yetişkinlerin seslerini içeriyor. ABD’li iştirakçiler posta kodlarını yazdıklarında, Shotline mahallî temsilcilerini buluyor ve altı meyyit bireyden birinin kendi sesiyle otomatik bir arama yapmalarını sağlayarak daha katı silah denetimi kanunları talep etmelerini istiyor.
Parkland atağında öldürülen gençlerden biri olan Joaquin Oliver’ın yapay zeka tarafından üretilen sesi, “Annemle babam sizi aramak için sesimi tekrar yaratmak maksadıyla yapay zekayı kullandığı için bugün geri döndüm” diyor ve devam ediyor: “Benim üzere öbür mağdurlar da arayacak.” Yayınlandığı tarihte, web sitesi aracılığıyla milletvekillerine 8.000’den fazla AI daveti gönderilmişti.
Tüyler ürpertici şeylere beğenilen geldiniz
Projeyi eşi Patricia ile birlikte başlatan Joaquin’in babası Manuel, Journal’a “Bu Amerika Birleşik Devletleri’nin bir sorunu ve biz bunu çözemedik” dedi ve ekledi: “Düzeltmek için tüyler ürpertici şeyler kullanmamız gerekiyorsa, tüyler ürpertici şeylere beğenilen geldiniz.”
Oliver ailesi, sesleri tekrar yaratmak için, kısa bir müddet Andreessen Horowitz liderliğindeki bir finansman tipiyle 80 milyon dolar toplayan iki yıllık bir teşebbüs olan ElevenLabs’ın ses klonlama hizmetini kullandı. Yazılım, sadece birkaç dakikalık ses örnekleri kullanarak iki düzineden fazla lisanda sesleri yine oluşturabiliyor. Oliver’ların ses örnekleri için oğullarının toplumsal medya paylaşımlarını kullandığı bildirildi. Öteki silahlı şiddet mağdurlarının ebeveynleri ve yasal vasileri, yapay zeka tarafından oluşturulan ses deposunun eklenmesi için seslerini The Shotline’a göndermek üzere bir form doldurabiliyor.
Etik sorular gündeme geldi
Proje, meyyit insanlara ilişkin geçersiz (deepfake) seslerin üretilmesi için yapay zekanın kullanılmasıyla ilgili etik soruları da gündeme getiriyor. ABD Federal İrtibat Kurulu, geçtiğimiz hafta yapay zeka tarafından üretilen sesler kullanılarak yapılan otomatik davetlerin yasa dışı olduğunu açıkladı. Bu karar, New Hampshire’daki seçmenlerin, Lider Joe Biden’ı taklit ederek eyalet ön seçimlerinde oy kullanmamalarını söyleyen davetler almalarından haftalar sonra geldi. Pindrop isimli güvenlik şirketinin yaptığı tahlil, Biden’ı gaye alan ses sahtekarlığının ElevenLabs yazılımı kullanılarak oluşturulduğunu ortaya çıkardı.
Şirketin kurucu ortağı Mati Staniszewski, Journal ile yaptığı görüşmede, ElevenLabs’ın, hak ve izinlere sahip olmaları durumunda insanların meyyit akrabalarının seslerini tekrar yaratmalarına müsaade verdiğini söyledi. Lakin şu ana kadar reşit olmayan çocukların ebeveynlerinin çocukları üzerinde hak sahibi olup olmadığı belirlenmiş değil.