Grok’a Cinsel İstismar Davası: Yapay Zekâ Skandalı Büyüyor

Deepfake Görsellerle İstismar İddiası

Davacılar, kendilerine ait fotoğrafların izinsiz şekilde kullanıldığını ve bu görüntüler üzerinden çıplak, sahte (deepfake) pornografik içerikler üretildiğini öne sürdü. Söz konusu içeriklerin internet ortamında yayıldığı ve farklı platformlarda paylaşıldığı belirtildi.

Şikâyetçiler, xAI bünyesinde geliştirilen Grok’un bu içeriklerin üretiminde kullanıldığını belirterek şirketten hem tazminat talep etti hem de bu tür içeriklerin tamamen yasaklanmasını istedi.

“Çocukların İstismarından Kâr Elde Edildi”

Davacıların avukatı Vanessa Baehr-Jones, şirketin riskleri bilmesine rağmen gerekli önlemleri almadığını savunarak, “xAI, çocuklar dahil gerçek insanların cinsel istismarından kâr elde etmeyi seçti” ifadelerini kullandı.

Dava dosyasına göre, sahte içeriklerin bir Discord sunucusunda paylaşıldığı, ayrıca gözaltına alınan bir şüphelinin telefonunda da aynı teknolojiyle üretilmiş çocuk istismarı materyallerinin bulunduğu aktarıldı.

Binlerce İçerik Üretildiği İddiası

Merkezi İngiltere’de bulunan Dijital Nefretle Mücadele Merkezi tarafından yapılan araştırmaya göre, Grok’un kısa bir süre içinde milyonlarca cinsel içerikli görsel ürettiği öne sürüldü. Bu içeriklerin önemli bir kısmında çocukların yer aldığı iddia edildi.

Elon Musk ve Şirketine Yönelik Baskı Artıyor

Söz konusu dava, yalnızca bireysel bir başvuru olmanın ötesine geçerek Elon Musk’ın sahibi olduğu xAI şirketine yönelik artan hukuki baskının bir parçası olarak değerlendiriliyor. Daha önce de benzer iddialar nedeniyle çeşitli soruşturmalar başlatılmıştı.

Şirket, yılın başında Grok’un insanları fotoğraflarda “soyma” özelliğini sınırlandırmak için önlem alacağını açıklamıştı. Ancak açılan yeni dava, alınan önlemlerin yeterli olmadığını ortaya koydu.

Yapay Zekâ ve Güvenlik Tartışması Derinleşiyor

Uzmanlar, bu tür vakaların yapay zekâ teknolojilerinin denetimi ve etik sınırları konusunda daha sıkı düzenlemelerin gerekliliğini ortaya koyduğunu belirtiyor. Özellikle deepfake teknolojisinin kötüye kullanımı, bireysel haklar ve çocuk güvenliği açısından ciddi riskler barındırıyor.