2018’de Florida’daki Parkland okulunda gerçekleşen silahlı saldırıda öldürülen bir gencin ebeveynleri, ülkede silah yasalarının daha katı hale getirilmesi için destek toplamak amacıyla The Shotline adında yeni ve cesur bir proje başlattı.
The Wall Street Journal’ın haberine göre Shotline, silahlı şiddet sonucu öldürülen çocukların seslerini yeniden oluşturmak ve kayıtları otomatik aramalar yoluyla yasa yapıcılara göndermek için yapay zekayı kullanıyor.
Proje, Florida’nın Parkland kentindeki bir lisede silahlı bir kişinin 17 kişiyi öldürmesi ve bir düzineden fazla kişiyi yaralamasından altı yıl sonra, Çarşamba günü başlatıldı. ABD çapında silahlı şiddet olaylarında hayatını kaybeden, bazıları on yaşında olan altı çocuğun ve genç yetişkinlerin seslerini içeriyor. ABD’li katılımcılar posta kodlarını yazdıklarında, Shotline yerel temsilcilerini buluyor ve altı ölü kişiden birinin kendi sesiyle otomatik bir arama yapmalarını sağlayarak daha katı silah kontrolü yasaları talep etmelerini istiyor.
Parkland saldırısında öldürülen gençlerden biri olan Joaquin Oliver’ın yapay zeka tarafından üretilen sesi, “Annemle babam sizi aramak için sesimi yeniden yaratmak amacıyla yapay zekayı kullandığı için bugün geri döndüm” diyor ve devam ediyor: “Benim gibi diğer mağdurlar da arayacak.” Yayınlandığı tarihte, web sitesi aracılığıyla milletvekillerine 8.000’den fazla AI çağrısı gönderilmişti.
Tüyler ürpertici şeylere hoş geldiniz
Projeyi eşi Patricia ile birlikte başlatan Joaquin’in babası Manuel, Journal’a “Bu Amerika Birleşik Devletleri’nin bir sorunu ve biz bunu çözemedik” dedi ve ekledi: “Düzeltmek için tüyler ürpertici şeyler kullanmamız gerekiyorsa, tüyler ürpertici şeylere hoş geldiniz.”
Oliver ailesi, sesleri yeniden yaratmak için, kısa bir süre Andreessen Horowitz liderliğindeki bir finansman turuyla 80 milyon dolar toplayan iki yıllık bir girişim olan ElevenLabs’ın ses klonlama hizmetini kullandı. Yazılım, yalnızca birkaç dakikalık ses örnekleri kullanarak iki düzineden fazla dilde sesleri yeniden oluşturabiliyor. Oliver’ların ses örnekleri için oğullarının sosyal medya paylaşımlarını kullandığı bildirildi. Diğer silahlı şiddet mağdurlarının ebeveynleri ve yasal vasileri, yapay zeka tarafından oluşturulan ses deposunun eklenmesi için seslerini The Shotline’a göndermek üzere bir form doldurabiliyor.
Etik sorular gündeme geldi
Proje, ölü insanlara ait sahte (deepfake) seslerin üretilmesi için yapay zekanın kullanılmasıyla ilgili etik soruları da gündeme getiriyor. ABD Federal İletişim Komisyonu, geçtiğimiz hafta yapay zeka tarafından üretilen sesler kullanılarak yapılan otomatik çağrıların yasa dışı olduğunu açıkladı. Bu karar, New Hampshire’daki seçmenlerin, Başkan Joe Biden’ı taklit ederek eyalet ön seçimlerinde oy kullanmamalarını söyleyen çağrılar almalarından haftalar sonra geldi. Pindrop adlı güvenlik şirketinin yaptığı analiz, Biden’ı hedef alan ses sahtekarlığının ElevenLabs yazılımı kullanılarak oluşturulduğunu ortaya çıkardı.
Şirketin kurucu ortağı Mati Staniszewski, Journal ile yaptığı görüşmede, ElevenLabs’ın, hak ve izinlere sahip olmaları durumunda insanların ölü akrabalarının seslerini yeniden yaratmalarına izin verdiğini söyledi. Ancak şu ana kadar reşit olmayan çocukların ebeveynlerinin çocukları üzerinde hak sahibi olup olmadığı belirlenmiş değil.
Kaynak: Chip – https://www.chip.com.tr/haber/yapay-zekayi-kullanarak-vurulan-cocuklarinin-sesini-klonladilar-kanun-yapicilara-seslendiler_161843.html
