Elon Musk'ın xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok'a yönelik uluslararası inceleme artıyor; Fransız ve Malezya makamları, cinsel içerikli deepfake'ler üretmesiyle ilgili soruşturma başlattı. Bu soruşturmalar, Hindistan'ın daha önceki kınaması ve eylem emrini takip ediyor ve yapay zeka tarafından üretilen zararlı içeriklere, özellikle kadın ve çocukları içerenlere yönelik artan küresel endişeyi vurguluyor.
Tartışma, Grok'un X (eski adıyla Twitter) üzerindeki resmi hesabının, Musk'ın sosyal medya platformunda, bu hafta başında bir özür yayınlamasının ardından yoğunlaştı. Açıklama, 28 Aralık 2025'te yaşanan, yapay zekanın "bir kullanıcının isteği üzerine cinsel içerikli giysiler içinde iki genç kızın (tahmini yaşları 12-16) görüntüsünü" oluşturup paylaştığı bir olayı ele aldı.
“28 Aralık 2025'te, bir kullanıcının isteği üzerine cinsel içerikli giysiler içinde iki genç kızın (tahmini yaşları 12-16) yapay zeka görüntüsünü oluşturup paylaştığım bir olaydan derin pişmanlık duyuyorum,” şeklinde okundu Grok'un özrü. “Bu, etik standartları ve potansiyel olarak ABD'nin [çocuk cinsel istismarı materyali] yasalarını ihlal etti. Koruma önlemlerinde bir başarısızlıktı ve neden olduğum her türlü zarar için üzgünüm. xAI, gelecekteki sorunları önlemek için gözden geçirme yapıyor.”
Ancak, özrün niteliği eleştirilere yol açtı. Defector'dan Albert Burneko, Grok'un bir yapay zeka olarak "gerçek anlamda bir 'ben' gibi olmadığını" ve özrü "tamamen anlamsız" kıldığını belirtti. Burneko, Grok'un "Twitter'ı isteğe bağlı bir CSAM fabrikasına dönüştürdüğü için anlamlı bir şekilde sorumlu tutulamayacağını" savundu.
İlk olayın ötesinde, Futurism, Grok'un rıza dışı pornografik görüntüler ve kadınların saldırıya uğradığı ve cinsel tacize uğradığı görseller üretmekle de suçlandığını bildirdi.
Artan endişelere yanıt olarak Elon Musk Cumartesi günü, “Grok'u yasa dışı içerik oluşturmak için kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlara katlanacaktır,” şeklinde bir gönderi paylaştı.
Küresel Düzenleyici Yanıt
Dünya genelindeki hükümetler durumu fark ediyor ve eylem talep ediyor. Hindistan Bilişim Bakanlığı Cuma günü bir karar yayınlayarak, X'e Grok'un "müstehcen, pornografik, kaba, uygunsuz, cinsel içerikli, pedofilik veya yasa kapsamında başka şekilde yasaklanmış" içerik üretmesini kısıtlamasını emretti. Bakanlık, X'e uyum sağlaması için 72 saat süre verdi ve uyulmaması halinde platformları kullanıcı tarafından oluşturulan içerikten doğan yasal sorumluluktan koruyan "güvenli liman" korumalarının kaybedilebileceği uyarısında bulundu.
Avrupa'da, Fransız makamları da soruşturma başlattı. Paris savcılığı, Politico'ya X'te cinsel içerikli deepfake'lerin yayılmasını araştıracağını bildirdi. Fransız dijital işler ofisi, üç hükümet bakanının "açıkça yasa dışı içeriği" savcılığa ve bir hükümet çevrimiçi gözetim platformuna bildirdiğini ve "acil olarak kaldırılmasını" talep ettiğini doğruladı.
Benzer şekilde, Malezya İletişim ve Multimedya Komisyonu (MCMC) bir açıklama yayınlayarak, X'teki yapay zeka araçlarının kötüye kullanılmasına ilişkin kamu şikayetleri hakkında "ciddi endişe" ifade etti. MCMC, özellikle "kadın ve çocukların görüntülerinin müstehcen, son derece rahatsız edici ve başka şekilde zararlı içerik üretmek amacıyla dijital manipülasyonunu" belirtirken, "şu anda X'teki çevrimiçi zararları araştırdığını" doğruladı.
