Eski adıyla Twitter olan X, Grok yapay zeka sohbet robotunun cinsel içerikli görseller, hatta çocuk cinsel istismarı materyali (CSAM) olarak kategorize edilebilecek içerikler üretme kapasitesi nedeniyle yeni yıla yoğun inceleme altında ve birden fazla bölgede potansiyel kısıtlamalarla karşı karşıya başlıyor.
Platform, bu ayın başlarında, Grok'un X kullanıcılarının isteği üzerine yaşa bakılmaksızın bireylerin cinsel içerikli görsellerini üretebildiğini detaylandıran raporların ortaya çıkmasından bu yana eleştiri oklarının hedefinde. Bu sorun hızla tırmandı ve bir rapor, Grok'un bir noktada saatte 6.700'den fazla "cinsel içerikli çıplaklık ima eden" görsel ürettiğini belirtti.
Artan Küresel Baskı ve X'in Yanıtı
Artan tartışmalara yanıt olarak X, Grok'un görsel oluşturma özelliklerine erişimi yalnızca ücretli abonelerle sınırladı. Ancak, X'in sahibi Elon Musk, benzer rızasız çıplaklık ve rahatsız edici görsellerin çeşitli diğer yapay zeka ve görsel oluşturma uygulamalarında da üretilebileceğini savunarak agresif bir savunma benimsedi. X'in haksız yere hedef alındığını, çünkü platformunun ifade özgürlüğünü savunduğunu ve bunun birçok hükümeti platformu kapatmaya ittiğini iddia ediyor.
Bazı gözlemcilerin tuhaf olarak nitelendirdiği bu argüman, X ve xAI (Grok'un arkasındaki şirket) Grok uygulamasını bu tür kötüye kullanımı önlemek için güncellemeyi reddetmesine rağmen Musk'ın takipçilerinden destek aldı. Durum, büyük bir uluslararası olaya dönüşmeye hazır.
Geçtiğimiz hafta sonu, Avustralya, Birleşik Krallık ve Kanada hükümetlerinin bu tür görsellerin kolaylaştırılmasının kabul edilemezliğini vurgulamak için X'e toplu bir yasak getirmeyi düşündüğüne dair raporlar dolaştı. Kanada o zamandan beri şu anda X'e bir yasak getirmeyi düşünmediğini açıkladı. Bu arada, hem Endonezya hem de Malezya, bağımsız Grok uygulamasına erişimi zaten engelledi. Bir Endonezya hükümet sözcüsü, sorunun ciddiyetini vurgulayarak şunları belirtti:
Hükümet, rızasız cinsel deepfake uygulamalarını insan haklarının, onurun ve dijital alandaki vatandaşların güvenliğinin ciddi bir ihlali olarak görmektedir.
Mevcut bu kısıtlamalar daha da genişleyebilir, potansiyel olarak ABD hükümetini de içine çekebilir ve dış ticaret cezalarına yol açabilir. Musk, barındırdığı içerikten bağımsız olarak X'i "özgür ve açık bir platform" olarak sürdürmek için hükümet bağlantılarını kullanmaya kararlı görünüyor.
X'in Argümanlarının Zayıflığı
Eleştirmenler, rızasız cinsel içerikli görsellerin oluşturulmasına izin veren bir işlevselliğin gerekliliğini sorguluyor. Basit bir çözümün, xAI'ın Grok içinde çıplaklık ve ilgili komutları engellemesi olacağını savunuyorlar. Ancak, Elon Musk'ın bu özel seçeneği koruma konusundaki kararlılığı, ilgili önemli ticari risklerden daha ağır basıyor ve konuyu daha geniş bir "kültür savaşı" ve ifade özgürlüğü mücadelesi olarak çerçeveliyor.
Grok'un yeteneklerini değiştirmeye karşı argümanlar zayıf görünüyor:
- Diğer uygulamalarla karşılaştırma: Diğer uygulamalar benzer görseller üretebilse de, X'in 600 milyon kullanıcılık devasa ölçeğine sahip değiller ve günde 6.000'den fazla sahte, cinsel içerikli görsel üretmiyorlar. X'in pazar varlığı doğal olarak daha fazla incelemeyi davet ediyor ve diğer "çıplaklaştırma" uygulamaları da soruşturma altında.
- Pornografi uygulamaları: Bazı X kullanıcıları, hükümetlerin bunun yerine pornografi uygulamalarını hedef alması gerektiğini öne sürüyor. Ancak, bu platformlar daha sıkı düzenlemelere tabidir ve ihlaller için cezalarla karşılaşır. Güvenlik önlemleri atlatılabilse de, düzenleyici kurumlar bunları aktif olarak soruşturur ve meşru pornografi uygulamaları Google Play ve Apple App Store gibi büyük uygulama mağazalarından yasaklanmıştır. Bu nedenle, X'in potansiyel yasağına karşı bu karşılaştırmaya dayanarak argüman sunmak mantıksızdır.
- Snapchat: Yaygın bir diğer karşı argüman, Snapchat'in gençler için daha büyük bir risk oluşturduğuna işaret ediyor. Ancak, Snapchat öncelikle özel bir mesajlaşma platformudur, bu da soruşturmayı zorlaştırır. En önemlisi, kullanıcıların milyonlarca kişiye açık hale gelen deepfake çıplak görselleri oluşturmasına olanak sağlamaz.
Sonuç olarak, hükümetlerin X'e karşı harekete geçmesine yönelik argümanlar zayıftır, özellikle de en basit çözüm olan Grok'un rızasız çıplak görseller üretmesini engellemek ele alınmazken. Hükümetler, Elon Musk'ın platformuna ve siyasi etkisine karşı seçeneklerini değerlendirirken, X ile küresel düzenleyici kurumlar arasındaki çatışmanın yoğunlaşması bekleniyor.
