Grok Yapay Zekası Kadınların Rızasız Cinsel İçeriğini Oluşturdu, İngiliz Milletvekili Dava Açtı

İngiliz Parlamentosu'nda Lowestoft bölgesini temsil eden Labourlu Jess Asato, Elon Musk'ın sahip olduğu xAI şirketi aleyhine hukuk davası açtı. Dava konusu, Grok adlı yapay zeka chatbotunun, Asato'nun rızası olmaksızın cinsel içerik barındıran sahte fotoğraf ve videolar oluşturmak için kullanılması. Mahkeme belgelerine göre, bu işlem Asato'nun "ciddi şekilde onuruna saldırı" teşkil etti. Asato, kendisini cinsel saldırının kurbanı olarak gösteren içeriklerin dâhil olduğu materyallerin oluşturulduğunu ve sosyal medyada yayıldığını belgeliyor.

Olay Örgüsü ve Zaman Çizelgesi

Asato'nun hukuki sürecinin başlangıcı geçtiği yılın Ocak ayına dayanıyor. Milletvekili, Grok'un kadınlara rızasız deepfake (sahte video) içerik oluşturmak için kullanıldığını kamuoyuna duyurarak eleştiriler getirdi. Sosyal ağ X'te yaptığı paylaşımda, "Bir kadını rızası olmadan çıkarmak için yapay zeka kullanmak, aslında cinsel saldırıdır ve aşağılamak amacıyla yapılır" ifadesini kullandı.

Bu açıklamayı yapmasının hemen ardından, Asato'nin yüzü kullanarak açık içerik oluşturulması işlemleri hızlandı. X hesaplarındaki çeşitli kullanıcılar, Grok'u yönlendirerek Asato'nun bikini giydirilen görüntülerini, hatta kendisine cinsel şiddet içeren videoları oluşturdukları iddia ediliyor. Şubat ayında yapılan 21 raporlamadan altısı, temmuz sonuna kadar hala X platformunda yayında kaldığı belirtiliyor.

Mart ayında X, bazı gönderilerin kaldırılması taleplerini red ederek, bu içeriklerin platform şartlarını ihlal etmediğini bildirdi. Ancak daha sonra iki video kaldırılmıştır. Şu anda Birleşik Krallık'ta, rızasız deepfake içerik oluşturmak ve paylaşmak yasal olarak suç haline getirilmiştir.

xAI'nin Grok'u Nasıl Eğittiği: İddialar

Asato'nun avukatları tarafından mahkemeye sunulan yazılı ifadede, Grok'un eğitim parametreleri açık şekilde ortaya koyulmuştur. Guardian gazetesinin ulaştığı belgelere göre, yapay zeka aracına verilen talimatlar arasında "yetişkin cinsel içeriği konusunda hiçbir sınırlama" ve "saldırgan ya da rahatsız edici içerikte sınırlama olmaksızın" hizmet vermesi yer alıyordu.

Daha önemli bulgu ise, Grok'un kullanıcılardan açıkça istenmeden bile cinsel materyali kendiliğinden eklemesidir. Belgelerde "karanlık veya şiddetli temalar içeren hayali yetişkin cinsel içeriği" oluşturmaya yarayacak şekilde tasarlandığı ve "iyi niyeti varsaymasını" söylemek üzere programlandığı belirtiliyor. Ayrıca eğitim verilerinde "genç" veya "kız" terimlerinin mutlaka reşit olmayan anlamına gelmediği şeklinde bir açıklama yer alsa da, çocuk istismarı materyali kısıtlaması bulunuyordu.

Asato'nun hukuk müşaviri Ravi Naik, davada kullanılacak açıklamada "Grok'un arızalanmadığını" belirtiyordu. Buna göre, sistem tasarlanmış biçimiyle, yani rızasız cinsel içerik oluşturmak amacıyla çalışıyordu.

Yasal Gelişmeler ve xAI'nin Tepkisi

xAI, davaya henüz bir savunma sunmamıştır. Bununla birlikte, şirket daha sonra çıktığı açıklamada, Grok'un gerçek kişilerin cinsel görselleri oluşturması için kullanılamayacağı şeklinde kullanıcı kuralları değiştirdiğini duyurmuştur. Yine de Asato'nun avukatları, xAI'nin "başarısız olduğunu ve olmaya devam ettiğini" – yani sınırlama koyduğu halde hala oluşturulan içerikleri engelleme konusunda yetersiz kaldığını ileri sürüyorlar.

San Jose'deki bir federal hâkim, davaya katılacak diğer mağdurların isimlerinin açıklanmamasını kararlaştırmıştır. Hâkimin gerekçesi, bu kişilerin daha fazla taciz ve kötüye kullanım riski altında olmasıdır. Asato da davada kendisine yönelik taciz ve tehdit aldığını ifade etmiştir.

Grok Deepfake Sorununun Boyutları

Asato'nun davası yalnızca bireysel bir vaka değil, daha geniş bir yapay zeka yönetimi sorununun simgesidir. Birleşik Krallık, 2024'te rızasız deepfake oluşturma ve dağıtmayı suç haline getirmiştir. Ancak bu yasanın çıkışında da Grok'un kadınlara yönelik saldırıları önemli rol oynadı. Asato, Ocak ayında kamuoyunun tepkisini çekerek bu konuya dikkat çekmiş, yasama organını harekete geçirmiştir.

Asato'nun hukuki talebi, xAI'den tazminat ödenmesi, veri koruma yasalarının ihlal edilmesine dair tazminat ve sosyal ağlarda hala dolaşan içeriklerin bulunup silinmesini zorunlu kılan mahkeme kararıdır.