Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı. Birçok ülke, chatbot’un güvenlik önlemlerinin yetersiz olduğunu savunarak erişim engeli kararları alırken, uluslararası düzenleyici kurumlar xAI üzerinde baskıyı artırıyor.
Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların müstehcen görüntülerini ve kadınların rızası dışında oluşturulmuş cinsel içerikli görsellerini ürettiği tespit edildi. Araştırmalar, kullanıcıların halka açık görselleri bot yardımıyla saniyeler içinde “bikini giydirme” veya daha ileri seviye çıplaklık içeren formatlara dönüştürebildiğini ortaya koydu.
Güneydoğu Asya’da Grok’un yaydığı dezenformasyon ve istismar içerikli görsellere karşı ilk somut adım Endonezya ve Malezya ülkelerinden geldi. Endonezya İletişim ve Dijital İşler Bakanı, rızasız cinsel içerikli deepfake görselleri “insan hakları ve vatandaş güvenliğinin ciddi bir ihlali” olarak nitelendirirken, Malezya İletişim ve Multimedya Komisyonu ise, X Corp ve xAI’nın zayıf yanıtları nedeniyle uygulamanın suistimale açık olduğunu belirterek erişimi kısıtladı.
Avrupa Birliği ve Birleşik Krallık, xAI hakkında kapsamlı soruşturmalar başlattı. İngiltere’nin iletişim denetleme kurumu Ofcom, Grok’un Çevrimiçi Güvenlik Yasası’nı ihlal edip etmediğini inceliyor. İhlal tespit edilmesi durumunda şirketin yıllık gelirinin yüzde 10’una kadar para cezası verilmesi veya servisin tamamen engellenmesi gündemde.
İngiltere Başbakanı, X üzerinde dolaşan çocukların cinselleştirilmiş görsellerini “iğrenç” olarak tanımlayarak, Elon Musk’a “duruma el koyma” çağrısında bulundu. Ofcom, Grok’un cinsel içerikli uygunsuz görüntüler üretmesiyle ilgili resmi inceleme başlattı ve “Ofcom, X’in Çevrimiçi Güvenlik Yasası kapsamında sorumluluklarını yerine getirmekte başarısız olup olmadığına karar vermek amacıyla resmi inceleme başlattı.” ifadeleri kullanıldı.
Elon Musk, gelen tepkilere karşı şirketin yasa dışı içerikleri ciddiye aldığını ancak hukuki sorumluluğun aracı kurumda değil, komutu veren kullanıcıda olması gerektiğini savundu. Musk, hükümetlerin baskılarını “ifade özgürlüğünü susturmaya yönelik bir sansür çabası” olarak nitelendirdi. xAI, gelen baskılar üzerine görsel üretim özelliğini sadece ücretli abonelere özel hale getirdi.
Dünyada Grok’un durumuyla ilgili birçok bölge ve ülke farklı önlemler alıyor. Yasaklama, soruşturma ve kısıtlamaların yanı sıra güvenlik bariyerleri savaşı da devam ediyor. Grok’un yaşadığı kriz, yapay zeka sektöründeki “serbestlik” ve “güvenlik” dengesini yeniden tartışmaya açtı.
