The Hill‘in haberine göre, California Adalet Bakanı Bonta, yaptığı yazılı açıklamada, xAI’nin yapay zeka sohbet robotu Grok üzerinden üretilen kadın ve kız çocuklarına ait müstehcen fotoğrafların “oluşturulması, dağıtılması, yayınlanması ve sergilenmesinin” suç teşkil ettiğini ve bunun California Medeni Kanunu’nu ihlal ettiğini belirtti.
Bonta, ofisinin bu hafta Grok’ta üretilen içerikler konusunda bir soruşturma başlattığını belirterek, “Bu içeriklerin detayına ilişkin bir yığın rapor, kadın ve kız çocukların cinsel içerikle betimlenmesi şok edicidir ve büyük ihtimalle yasadışıdır.” ifadesine yer verdi. xAI’yi gönderilen ihtar mektubuna acilen uymaya davet eden Bonta, “California’nın çocuk cinsel istismarı içeriklerine toleransı yoktur.” dedi.
Grok’a tepkiler sürüyor. x’teki kullanıcıların, Grok’tan ünlüler ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görseller üretmesini istediği “sosyal medya akımına” İngiltere ile diğer ülkelerden tepkiler geldi. x’in sahibi ABD’li milyarder Elon Musk, 3 Ocak’ta “Grok’u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir.” açıklamasını yapsa da tepkiler sürüyor.
Avrupa Birliği (AB) Komisyonu, 5 Ocak’ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıklamıştı. Malezya, 3 Ocak’ta x’in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğunun bulunduğunu vurgulamış, 11 Ocak’ta da Grok’a erişimi, yeterli güvenlik önlemlerinin alınmadığı gerekçesiyle geçici olarak kısıtlamıştı. Hindistan da 2 Ocak’ta x’e konu hakkında “kapsamlı inceleme yapma” talimatını vermişti. Endonezya ise 10 Ocak’ta üretilen uygunsuz görseller nedeniyle Grok’u geçici engellemişti. Japonya hükümeti, Grok’un ürettiği müstehcen içeriklere karşı önlem alınması çağrısında bulunmuştu.
