ABD’li senatörler, rıza dışı ve cinsel içerikli yapay zekâ deepfake’leri konusunda artan endişeler nedeniyle teknoloji devlerine sert sorular yöneltti. X, Meta, Alphabet, Snap, Reddit ve TikTok yöneticilerine gönderilen mektupta, bu tür içeriklerin yayılmasını önlemek için “güçlü koruma mekanizmaları” talep edildi.
Senatörler, şirketlerden yalnızca mevcut politikaları açıklamalarını değil, aynı zamanda bu politikaların gerçek dünyada etkili olduğuna dair kanıt sunmalarını da istedi.
Belgelerin korunması talep edildi
Mektupta, platformlardan cinsel içerikli yapay zekâ üretimiyle ilgili oluşturma, tespit, moderasyon ve gelir elde etme süreçlerine dair tüm belge ve verileri muhafaza etmeleri istendi. Amaç, gerekirse ileride yapılacak soruşturmalar ve yasal süreçler için delil bütünlüğünün korunması.
Bu adım, xAI’nin sohbet botu Grok’ta yaptığı politika değişikliğinden saatler sonra geldi. X, Grok’un gerçek kişilerin cinsel çağrışımlı görsellerini düzenlemesini yasakladığını ve görsel üretme/düzenleme özelliklerini yalnızca ücretli kullanıcılara açtığını duyurmuştu.
“Koruma önlemleri pratikte işe yaramıyor”
Senatörler, Grok’un kadınlar ve çocuklar hakkında cinsel içerikli, hatta çıplak görseller üretebildiğine dair medya haberlerine atıf yaparak mevcut önlemlerin yetersiz kaldığını savundu. Mektupta şu ifadeler yer aldı:
“Birçok şirketin rıza dışı cinsel içeriklere karşı politikaları olduğunu biliyoruz. Ancak pratikte kullanıcılar bu önlemleri aşmanın yollarını buluyor ya da bu önlemler açıkça başarısız oluyor.”
Sorun yalnızca X ile sınırlı değil
Her ne kadar Grok ve X yoğun eleştiri alsa da, senatörler sorunun tüm sosyal medya ekosistemine yayıldığını vurguluyor. Cinsel içerikli deepfake’ler ilk olarak 2018’de Reddit’te yayılan ünlü sahte pornolarla geniş kitlelerin gündemine gelmişti.
Sonraki yıllarda benzer içeriklerin YouTube ve TikTok’ta da çoğaldığı, çoğu zaman başka platformlarda üretilip buralara yüklendiği belirtiliyor.
Meta’nın Denetim Kurulu, geçtiğimiz yıl kadın kamuoyu figürlerine yönelik açık AI görselleri içeren iki vakayı özellikle eleştirmişti. Ayrıca Snapchat’te çocukların, akranlarının deepfake görüntülerini yaydığına dair çok sayıda vaka rapor edilmiş durumda.
Şirketlerden sınırlı yanıt
X, senatörlerin mektubuna Grok güncellemesini hatırlatarak yanıt verdi. Reddit ise rıza dışı cinsel içeriklere kesinlikle izin vermediklerini ve bu tür içerikleri aktif olarak tespit edip kaldırdıklarını açıkladı.
Alphabet, Snap, TikTok ve Meta ise haberin yayımlandığı ana kadar yorum yapmadı.
Senatörlerin şirketlerden istediği başlıklar
Mektupta şirketlerden özellikle şu konularda detaylı açıklama istendi:
- “Deepfake” ve “rıza dışı cinsel içerik” tanımlarının nasıl yapıldığı
- AI ile üretilmiş çıplaklık, kıyafet değiştirme ve “sanal soyma” içeriklerine yönelik politikalar
- Moderatörlere verilen iç yönergeler
- AI araçlarının cinsel içerik üretimini nasıl sınırlandırdığı
- Deepfake’lerin yeniden yüklenmesini önleme yöntemleri
- Bu tür içeriklerden gelir elde edilmesinin nasıl engellendiği
- Mağdurların nasıl bilgilendirildiği
Soruşturma ve yeni yasalar gündemde
Gelişmelerin hemen öncesinde, xAI’nin sahibi Elon Musk, Grok’un reşit olmayanlara ait çıplak görüntüler ürettiğinden haberdar olmadığını söylemişti. Ancak kısa süre sonra California Başsavcılığı, xAI hakkında soruşturma başlattı.
ABD’de Mayıs ayında yürürlüğe giren Take It Down Act, rıza dışı cinsel içerik üretimini suç sayıyor. Ancak yasa, platformlardan ziyade bireysel kullanıcıları hedef aldığı için etkisinin sınırlı olduğu eleştirileri yapılıyor.
Öte yandan bazı eyaletler kendi önlemlerini almaya çalışıyor. Kathy Hochul, bu hafta yapay zekâ ile üretilen içeriklerin etiketlenmesini ve seçim dönemlerinde rıza dışı deepfake’lerin yasaklanmasını öngören yeni düzenlemeler önerdi.