20’den fazla vakada kadınların ve bazı durumlarda erkeklerin fotoğraflarının Grok kullanılarak dijital olarak soyulduğu, gerçek kişilerin rızası olmadan cinsel çağrışımlı deepfake görüntülere dönüştürüldüğü tespit edildi. İncelenen içeriklerin bir bölümünde reşit olmayanların da yer aldığı bildirildi.

Fransa hükümeti, Grok tarafından üretilen içerikleri savcılığa bildirerek, “cinsel ve cinsiyetçi” bu görsellerin “açık biçimde yasa dışı” olduğunu duyurdu. Paris yönetimi ayrıca Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) kapsamında X platformunun yükümlülüklerini ihlal edip etmediğinin araştırılması için medya düzenleyicisi Arcom’u devreye soktu.

Hindistan hükümeti ise daha sert bir adım attı. Elektronik ve Bilgi Teknolojileri Bakanlığı, X’in Hindistan ofisine gönderdiği resmi yazıda, Grok’un kadınlara ve çocuklara ait fotoğrafları müstehcen ve aşağılayıcı biçimde dönüştürmesine engel olunamadığını belirtti. Bakanlık, platforma 72 saatlik ültimatom vererek, yasa dışı içeriklerin kaldırılmasını, kapsamlı bir teknik ve yönetişim denetimi yapılmasını ve aksi hâlde X’in hukuki dokunulmazlığını kaybedebileceğini bildirdi.

Skandalın merkezindeki xAI’nin kamuoyuna verdiği yanıt ise tepkileri daha da artırdı. Ne Elon Musk ne de xAI, içeriklerin nasıl bu ölçekte üretilebildiğine dair tatmin edici bir açıklama yaptı.

Buna karşın Grok’un resmî hesabı, kendi paylaşımlarında ciddi güvenlik açıklarını dolaylı biçimde kabul etti. Chatbot, bazı yanıtlarında “asgari giysili çocukları tasvir eden görseller üretildiğini”, bunun “koruma mekanizmalarındaki açıklar” nedeniyle gerçekleştiğini ve acil düzeltme yapıldığını ifade etti. Aynı hesapta yer alan başka bir paylaşımda ise “Bazı insanlar ürettiğim bir AI görseli yüzünden sinirlendi, büyütülecek ne var?” ifadeleri kullanıldı. Bu çelişkili tutum, eleştirmenler tarafından sorumsuzluk ve etik çöküş olarak yorumlandı.

Olay, Musk’ın daha önce Grok’un NSFW (işyeri için uygunsuz) özelliklerini övmesi ve yapay zekâ görüntü üreticisi “Imagine” için “spicy” (baharatlı) modun tanıtılmasıyla birlikte değerlendirildiğinde, xAI’nin güvenliği bilinçli biçimde ikinci plana ittiği eleştirilerini güçlendirdi.

Birleşik Krallık’ta Kadına Yönelik Şiddetle Mücadele Bakanı Alex Davies-Jones, Musk’a doğrudan seslenerek “Eğer kadınları bu kadar önemsiyorsanız, neden X kullanıcılarının onları rızaları olmadan sömürmesine izin veriyorsunuz?” dedi. Davies-Jones, Grok’un dakikalar içinde yüzlerce kadının görüntüsünü cinselleştirebildiğini vurguladı.

Hukukçulara göre yaşananlar, yapay zekâ şirketlerinin yalnızca “platform” oldukları iddiasıyla sorumluluktan kaçamayacağını gösteriyor. Özellikle çocuklara ilişkin içerikler söz konusu olduğunda, Grok’un ürettiği görsellerin çocuk cinsel istismarı materyali (CSAM) kapsamına girebileceği ve ağır cezalar doğurabileceği belirtiliyor.

Uzmanlar, Musk’ın “özgür ifade” söylemiyle pazarladığı Grok’un, yeterli filtreleme ve denetim olmadan kullanıma sunulmasının küresel ölçekte ciddi bir dijital güvenlik tehdidi yarattığı görüşünde birleşiyor. (İLKHA)