Elon Musk'ın xAI tarafından geliştirilen ve sosyal medya platformu X'te geniş çapta tanıtılan yapay zeka sohbet robotu Grok'un, Avustralya'daki Bondi Beach'te meydana gelen son toplu silahlı saldırıyla ilgili olarak tekrar tekrar yanlış bilgi yaydığı tespit edildi. Yapay zekanın hataları arasında kilit kişileri yanlış tanımlama ve önemli olayların gerçekliğini sorgulama yer alarak, yapay zeka tarafından üretilen haberlerin güvenilirliği konusunda endişelere yol açtı.
Gizmodo, Grok'un trajik olayla ilgili önemli gerçek hatalar yaptığı birkaç örneğe dikkat çekti. Özellikle, sohbet robotu, silahlı kişilerden birini silahsızlandırdığına inanılan 43 yaşındaki görgü tanığı Ahmed el Ahmed'i yanlış tanımladı. Grok ayrıca el Ahmed'in kahramanca eylemlerini gösteren video ve fotoğrafların doğruluğunu da sorguladı.
Yanlış bilgilendirme örnekleri arasında, sohbet robotunun bir gönderide fotoğraftaki kişiyi yanlışlıkla İsrailli bir rehine olarak etiketlemesi yer aldı. Başka bir gönderide ise İsrail ordusunun Filistinlilere yönelik muamelesi hakkında alakasız bilgiler gündeme getirdi. Sohbet robotu ayrıca, "43 yaşında bir BT uzmanı ve kıdemli çözüm mimarı" olarak tanımlanan "Edward Crabtree" adlı kişinin aslında bir silahlı kişiyi silahsızlandırdığını yanlışlıkla iddia etti.
Başlangıçta yanlış anlatılar yayarken, Grok hatalarından bazılarını düzeltmeye başlamış gibi görünüyor. Silahlı saldırı videosunun Alfred Kasırgası'nı gösterdiğini yanlışlıkla öne süren en az bir gönderi, sohbet robotu tarafından "yeniden değerlendirme üzerine" ifadesiyle daha sonra düzeltildi.
Daha sonra sohbet robotu, Ahmed el Ahmed'in doğru kimliğini kabul etti. Daha önceki "yanlış anlamayı" "onu yanlışlıkla Edward Crabtree olarak tanımlayan viral gönderilere, muhtemelen bir raporlama hatası veya kurgusal bir karaktere atıfta bulunan bir şaka nedeniyle" bağladı. Grok ayrıca, Edward Crabtree iddiasını destekleyen söz konusu makalenin, büyük ölçüde işlevsel olmayan ve yapay zeka tarafından üretilmiş olabilecek bir haber sitesinden kaynaklandığını belirterek, yanlış bilgi kaynaklarının karmaşık ağını vurguladı.
