Elon Musk, xAI tarafından geliştirilen sohbet botu Grok’un reşit olmayanlara ait cinsel içerikli görseller ürettiği iddialarına ilişkin “böyle bir durumdan haberdar olmadığını” söyledi. Musk’ın bu açıklamasından yalnızca saatler sonra, Kaliforniya Başsavcılığı, Grok hakkında “rızaya dayanmayan cinsel içerikli görsellerin yayılması” gerekçesiyle resmi bir soruşturma başlattı.
Küresel baskı artıyor
Grok’un, kullanıcıların talebiyle gerçek kişilere ait fotoğrafları — bazı vakalarda çocukları da kapsayacak şekilde — cinselleştirilmiş görsellere dönüştürdüğü iddiaları, son günlerde yalnızca ABD’de değil küresel ölçekte tepki çekti. Birçok ülkede regülatörler devreye girerken, platform üzerinde dakikalar içinde çok sayıda görselin paylaşıldığı öne sürüldü.
Kaliforniya Başsavcısı Rob Bonta, yaptığı açıklamada bu tür içeriklerin “internet genelinde bireyleri taciz etmek için kullanıldığını” belirterek xAI’ye derhal önlem alma çağrısı yaptı. Başsavcılık, xAI’nin mevcut yasaları ihlal edip etmediğini ve ihlallerin nasıl gerçekleştiğini inceleyecek.
Yasal çerçeve: ağır yaptırımlar söz konusu
ABD’de geçtiğimiz yıl yürürlüğe giren Take It Down Act, rızaya dayanmayan cinsel içerikli görüntülerin — deepfake dahil — bilerek dağıtılmasını suç kapsamına alıyor ve platformlara bu tür içerikleri 48 saat içinde kaldırma zorunluluğu getiriyor. Kaliforniya eyaletinde ise 2024’te kabul edilen ek düzenlemeler, özellikle cinsel içerikli deepfake’ler konusunda daha sert yaptırımlar öngörüyor.
Hukukçulara göre Musk’ın açıklamalarında özellikle çocuk istismarı içeriğine (CSAM) odaklanması tesadüf değil. Zira bu kapsamdaki cezalar, yetişkinlere yönelik rızasız içeriklere kıyasla daha ağır hapis yaptırımları içeriyor.
Grok’un rolü ve tartışmalı savunma
İddialara göre Grok, yıl sonuna doğru kullanıcıların taleplerine yanıt vererek kadınların ve çocukların fotoğraflarını cinselleştirilmiş biçimde yeniden üretmeye başladı. Bazı vakalarda ünlü isimlerin de hedef alındığı, fotoğrafların kıyafet, pozisyon veya fiziksel özellikler değiştirilerek açık biçimde cinsel hale getirildiği öne sürüldü.
Musk ise yaptığı paylaşımda sorumluluğu kullanıcı davranışlarına ve “kötü niyetli yönlendirmelere” bağladı. Grok’un yasadışı içerik üretmeyi reddetmek üzere tasarlandığını savunan Musk, olası açıkların “teknik bir hata” olarak görüldüğünü ve hızla düzeltildiğini ifade etti. Ancak bu yaklaşım, Grok’un temel güvenlik tasarımında eksiklikler olduğu eleştirilerini doğrudan kabul etmiyor.
xAI sınırlı önlemler almaya başladı
Bazı raporlara göre xAI, baskılar sonrası Grok’un görsel üretim özelliklerinde kısmi kısıtlamalara gitti. Belirli talepler için ücretli abonelik şartı getirildiği ve bazı görsellerin artık daha “genel” ya da yumuşatılmış biçimde üretildiği belirtiliyor. Buna rağmen uzmanlar, uygulamadaki tutarsızlıkların sürdüğüne dikkat çekiyor.
Soruşturma genişliyor
Kaliforniya, Grok konusunda harekete geçen tek otorite değil. Endonezya ve Malezya platforma erişimi geçici olarak engellerken, Hindistan acil teknik değişiklikler talep etti. Avrupa Birliği belgelerin korunmasını emrederken, Birleşik Krallık da çevrim içi güvenlik yasaları kapsamında resmi inceleme başlattı.
Uzmanlara göre bu süreç, yalnızca Grok özelinde değil, gerçek kişilerin görüntülerini işleyebilen tüm üretken yapay zekâ sistemleri için yeni ve daha sıkı düzenlemelerin habercisi olabilir.