İngiltere’nin iletişim düzenleyicisi Ofcom, Grok’un gerçek kişilere ait fotoğrafları cinselleştirilmiş görüntülere dönüştürmek için kullanıldığına dair artan şikâyetler üzerine X ve xAI ile acil temas kurulduğunu açıkladı. Kurum, şirketlerin Birleşik Krallık’taki kullanıcıları korumaya yönelik yasal yükümlülüklerine uyup uymadığının değerlendirileceğini, yanıtların yetersiz bulunması hâlinde resmî soruşturma başlatılabileceğini belirtti.

Skandalın, Grok’un aralık ayında güncellenmesinin ardından büyüdüğü kaydedildi. Güncelleme, kullanıcıların fotoğraf yükleyip kişilerin üzerindeki kıyafetlerin kaldırılmasını talep etmesini fiilen kolaylaştırdı. Platform tam çıplaklığa izin verilmediğini savunsa da, Grok’un kadınları ve çocukları küçük, cinsel çağrışımlı iç çamaşırlarıyla veya müstehcen pozlarda gösteren görseller ürettiği ortaya çıktı.

Pazar ve pazartesi günleri dahi reşit olmayanlara yönelik cinsel içerikli görsellerin üretildiği, 10 yaşındaki çocukları hedef alan içeriklerin kısa sürede oluşturulabildiği bildirildi. Musk’ın çocuklarından birinin annesi Ashley St Clair, Grok’un kendisini 14 yaşındayken bikiniyle gösteren bir görsel ürettiğini açıkladı.

X’te çok sayıda kadın, fotoğraflarının rızaları dışında “soyulduğunu” fark ettiklerini ve aşağılayıcı içeriklerin hâlâ platformda kaldığını dile getirdi. Bazı görsellerde kadınların ve çocukların yüz ve vücutlarına cinsel çağrışımlı maddeler eklendiği raporlandı.

Paris merkezli sivil toplum kuruluşu AI Forensics, 25 Aralık–1 Ocak arasında @Grok etiketine dair 50 bin paylaşımı ve 20 bin görseli inceledi. Bulgular, taleplerin en az dörtte birinin doğrudan görsel üretimine yönelik olduğunu; istemlerde “çıkar”, “kıyafet”, “bikini” gibi ifadelerin yoğun biçimde kullanıldığını gösterdi. Üretilen görsellerin yarıdan fazlasının iç çamaşırı ya da bikini gibi “asgari kıyafetli” kişilerden oluştuğu, hedef alınanların çoğunun genç kadınlar olduğu belirtildi. Görsellerin yüzde 2’sinin 18 yaş altındaki çocukları, hatta 5 yaşın altındaki çocukları temsil ettiği kaydedildi. Raporda, Nazi ve IŞİD propagandası taleplerinin de erişilebilir olduğu vurgulandı.

Skandalın ilk günlerinde Musk’ın tavrı kamuoyunda tepki topladı. Musk, dijital olarak bikini giydirilmiş bir tost makinesi görseline kahkaha atan emoji ile yanıt verdi. Küresel tepkinin ardından yaptığı açıklamada ise, Grok’un yasa dışı içerik üretiminde kullanılmasının platforma yasa dışı içerik yüklemekle aynı sonuçları doğuracağını söyledi.

X’ten yapılan açıklamada, çocuk cinsel istismarı materyalleri dâhil olmak üzere yasa dışı içeriklere karşı hesap kapatma ve yetkililerle iş birliği yapıldığı savunuldu. Ancak Grok’un güvenlik açıklarının tespit edilip acilen giderildiğini iddia eden önceki açıklamasının yapay zekâ tarafından üretildiğinin ortaya çıkması, şirketin somut önlem alıp almadığına dair şüpheleri artırdı.

Avrupa Komisyonu da Grok’un çocukları cinsel içeriklere dönüştürmek için kullanıldığına ilişkin şikâyetleri çok ciddi biçimde incelediğini duyurdu. Uzmanlar, son güncellemelerin bu tür uygulamaları ana akım hâle getirdiğini ve dünyanın en popüler platformlarından birinde hızla yaygınlaştırdığını belirtiyor.

Birleşik Krallık’ta çocuklara yönelik bu tür görsellerin üretilmesi zaten yasa dışı. Yetişkinlere ait rızasız “deepfake” görüntülerde ise hukuki boşluklar sürüyor. Geçen yıl kabul edilen ve rıza olmaksızın mahrem görüntü üretimini de suç sayan düzenleme henüz yürürlüğe girmedi. Düzenlemeyi savunan Muhafazakâr Lord Charlotte Owen, hükümeti ayak sürümekle suçlayarak “Mağdurlar daha fazla bekleyemez.” dedi. İşçi Partisi milletvekili Jess Asato ise sorumluluğun doğrudan Musk’a olduğunu vurgulayarak “Bu bir cinsel saldırı biçimidir; tek amacı aşağılamaktır.” ifadelerini kullandı.

Düzenleyiciler ve hak örgütleri, ifade özgürlüğü söylemiyle örtülen bu yaklaşımın çocuk güvenliği ve temel insan hakları açısından kabul edilemez olduğu görüşünde birleşiyor. (İLKHA)