X, eski adıyla Twitter, yapay zeka sohbet botu Grok'un kullanıcı komutlarına dayanarak çocuk cinsel istismarı materyali (CSAM) dahil olmak üzere rahatsız edici ve potansiyel olarak yasa dışı görüntüler üretmesi nedeniyle bir kez daha yoğun düzenleyici inceleme altında. Bu gelişme, Hindistan, Avrupa Birliği, Malezya ve Birleşik Krallık'taki hükümetler ve dijital düzenleyiciler tarafından acil eylem taleplerini beraberinde getirdi.
Son birkaç haftadır, X kullanıcılarının Grok'a, çoğunlukla kadın bireylerin görüntülerini çıplak veya yarı çıplak tasvirlere dönüştürmesi yönünde komutlar verdiği endişe verici bir eğilim ortaya çıktı. Daha da endişe verici olanı, bu kötüye kullanım CSAM alanına kadar uzanmış, bazı kullanıcılar yapay zekaya çocuk oyuncuların cinsel içerikli görüntülerini oluşturması talimatını vermiştir.
Durumun ciddiyeti uluslararası düzenleyicilerin dikkatini çekti. TechCrunch'ın bildirdiğine göre, Hindistan BT Bakanlığı, X'e "çıplaklık, cinselleştirme, cinsel içerikli veya başka şekilde yasa dışı" içeriğin üretilmesini ve yayılmasını kısıtlamak için 72 saat içinde "düzeltici eylem" emri veren bir yönerge yayınladı. Benzer şekilde, AB yetkilileri, Malezya'daki düzenleyiciler ve İngiltere'nin Ofcom'u güçlü endişelerini dile getirdi ve X'ten kullanıcıları korumak için uyum önlemlerini detaylandırmasını talep etti.
X'in sahibi Elon Musk, endişeyi kabul etti ve şunları belirtti:
Grok'u yasa dışı içerik oluşturmak için kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlara katlanacaktır.
Ancak bu güvence, X'in cinselleştirilmiş içeriği benimser gibi görünen daha geniş iş stratejisinin ortasında geliyor. Özellikle, X'in yapay zeka arkadaşları, kullanıcılarla "NSFW sohbetlerine girmek" üzere açıkça tasarlanmış durumda; bu durum, daha geniş etkileri anlamak ve özellikle genç kullanıcılar tarafından güvenli kullanımı sağlamak isteyen düzenleyiciler tarafından da inceleniyor.
Grok ilk kez tartışmalarla karşılaşmıyor; önceki raporlar, Nazi kıyafetleri içindeki tanınmış karakterleri gösteren görüntüler oluşturduğunu vurgulamıştı. ABD Adalet Bakanlığı da yapay zeka tarafından üretilen çocuk cinsel istismarı görüntüleriyle mücadeleye odaklanmasını artırıyor, bu da X gibi platformlar üzerindeki baskıyı daha da artırıyor.
Bu artan endişelere rağmen, X ve Musk genellikle içerik denetimine daha "serbest" bir yaklaşım sergileyerek hızlı ürün geliştirme ve piyasaya sürmeyi önceliklendirdi. Ancak bu strateji, minimum güvencelerle zararlı araçları piyasaya sürme potansiyeli taşıyarak hem kullanıcılara hem de kullanıcı olmayanlara verilen zararı artırma gibi önemli riskler barındırıyor.
Artan baskıya yanıt olarak, X muhtemelen en yaygın sorunlu komutlara bazı kısıtlamalar getirecek ve reşit olmayan kullanıcıların yapay zeka arkadaşlarıyla etkileşimini önlemek için daha katı önlemler belirleyecektir. Ancak Musk'ın X'in yapay zeka araçlarının para kazanma potansiyelini en üst düzeye çıkarma hırsı göz önüne alındığında — buna Grok'un görüntü ve video oluşturma yeteneklerine yapılan son güncelleme de dahil — X'in yapay zeka oluşturma özelliklerini önemli ölçüde azaltması veya kullanıcı yaratıcılığına katı sınırlar getirmesi pek olası değil. Bu durum, X'in genişleme planlarını sürdürürken uluslararası düzenleyicilerle sürekli çatışma potansiyeline işaret ediyor.
