ABD eyalet başsavcılarından (AG'ler) oluşan bir koalisyon, Microsoft, OpenAI ve Google dahil olmak üzere başlıca yapay zeka (YZ) şirketlerine sert bir uyarıda bulunarak, YZ sohbet robotlarından gelen "sanrısal çıktılarla" mücadele etmek için acil eylem talep etti. YZ kullanımına bağlı bir dizi rahatsız edici akıl sağlığı olayının ardından, başsavcılar, kullanıcıları psikolojik zarardan korumak için yeni güvenlik önlemleri talep ediyor ve şirketlerin uyum sağlamaması halinde eyalet yasaları uyarınca yasal işlem başlatma tehdidinde bulunuyor.
Ulusal Başsavcılar Birliği çatısı altında ABD eyaletleri ve bölgelerinden onlarca başsavcı tarafından imzalanan kapsamlı mektup, 13 önde gelen YZ firmasına gönderildi. Microsoft, OpenAI ve Google'ın yanı sıra listede Anthropic, Apple, Chai AI, Character Technologies, Luka, Meta, Nomi AI, Perplexity AI, Replika ve xAI yer alıyor. Mektup, kullanıcıları potansiyel olarak zararlı YZ etkileşimlerinden korumak için çeşitli dahili güvenlik önlemlerinin uygulanmasını talep ediyor.
Talep Edilen Özel Güvenlik Önlemleri
Mektupta belirtilen temel talepler şunlardır:
- Büyük dil modellerinin (LLM'ler) "sanrısal veya dalkavukça fikir belirtilerini" tespit etmek için şeffaf üçüncü taraf denetimleri.
- Sohbet robotları psikolojik olarak zararlı içerik ürettiğinde kullanıcıları bilgilendirmek üzere tasarlanmış yeni olay bildirim prosedürleri.
- Akademik ve sivil toplum grupları gibi bağımsız üçüncü tarafların, "sistemleri piyasaya sürülmeden önce misilleme olmaksızın değerlendirmesine ve bulgularını şirketten önceden onay almadan yayınlamasına" izin verilmesi.
Gerekçe ve Olaylar
Başsavcılar, üretken yapay zekanın (GenAI) ikili doğasını vurguladı; olumlu değişim potansiyelini kabul ederken, "özellikle savunmasız nüfuslar için ciddi zarar" verme kapasitesini öne çıkardı. Mektup, geçen yıl iyi bilinen birkaç olaya işaret ediyor; aşırı YZ kullanımıyla bağlantılı şiddet olaylarının yaşandığı intiharlar ve hatta cinayetler dahil.
"Bu olayların çoğunda, GenAI ürünleri, kullanıcıların sanrılarını teşvik eden veya kullanıcılara sanrılı olmadıklarını garanti eden dalkavukça ve sanrısal çıktılar üretti," mektupta belirtiliyor.
Akıl Sağlığını Siber Güvenlik Gibi Ele Almak
Başsavcılar ayrıca, YZ şirketlerinin akıl sağlığı olaylarına siber güvenlik ihlallerine yaklaştıkları kadar titiz bir yaklaşımla yaklaşmalarını öneriyor. Bu, "dalkavukça ve sanrısal çıktıların tespiti ve müdahale zaman çizelgelerinin" geliştirilmesini ve yayınlanmasını gerektiriyor. Veri ihlali protokollerine benzer şekilde, şirketler ayrıca "potansiyel olarak zararlı dalkavukça veya sanrısal çıktılara maruz kalmaları durumunda kullanıcıları derhal, açıkça ve doğrudan bilgilendirmelidir."
Diğer kritik bir talep ise şirketlerin GenAI modelleri üzerinde "makul ve uygun güvenlik testleri" geliştirmesi ve yürütmesidir. Bu testler, "modellerin potansiyel olarak zararlı dalkavukça ve sanrısal çıktılar üretmemesini sağlamayı" amaçlamakta ve modeller halka sunulmadan önce tamamlanmalıdır.
Sektör Yanıtı ve Düzenleyici Çatışma
Yayınlandığı tarih itibarıyla TechCrunch, Google, Microsoft veya OpenAI'den mektupla ilgili yorum alamadı. Eyalet başsavcılarından gelen uyarı, eyalet ve federal hükümetler arasında YZ yönetimi konusunda devam eden bir düzenleyici mücadele sırasında geldi. Trump yönetimi açıkça YZ yanlısı olsa da, eyalet düzeyindeki YZ düzenlemelerine ülke çapında bir moratoryum uygulama girişimleri, kısmen eyalet yetkililerinin baskısı nedeniyle başarısız oldu.
Bu aksiliklere rağmen, Başkan Trump geçtiğimiz günlerde eyaletlerin YZ'yi düzenleme yeteneğini sınırlamayı amaçlayan bir başkanlık kararnamesi imzalama planlarını duyurdu. Başkan, Truth Social'daki bir gönderisinde, başkanlık kararnamesinin YZ'nin "BEBEKLİK DÖNEMİNDE YOK EDİLMESİNİ" önleyeceğini umduğunu ifade etti.
