New York Eyaleti, Büyük Felaket Risklerini Azaltmak İçin AI Güvenlik Yasasını Kabul Etti

New York milletvekilleri Perşembe günü, OpenAI, Google ve Anthropic gibi şirketlerin gelişmiş AI modellerinin neden olduğu felaketleri önlemek için tasarlanmış bir yasa tasarısı olan RAISE Yasasını kabul etti. Yasa tasarısı, bu tür felaketleri 100'den fazla ölüme veya 1 milyar doları aşan hasara neden olan olaylar olarak tanımlıyor.

Bu, son yıllarda hızlı inovasyona öncelik verilmesi nedeniyle zorluklarla karşılaşan AI güvenlik hareketi için önemli bir zafer anlamına geliyor. Nobel ödüllü Geoffrey Hinton ve AI araştırma öncüsü Yoshua Bengio dahil olmak üzere önde gelen AI güvenlik savunucuları, RAISE Yasasını destekliyor. Yasa olarak imzalanması halinde, Amerika Birleşik Devletleri'ndeki öncü AI laboratuvarları için yasal olarak zorunlu kılınan ilk şeffaflık standartlarını oluşturacak.

Şeffaflık ve Hesap Verebilirlik Öncelikli

RAISE Yasası, nihayetinde veto edilen Kaliforniya'nın SB 1047 yasasıyla bazı benzerlikler taşıyor. Ancak, RAISE Yasası'nın ortak sponsorlarından New York Eyalet Senatörü Andrew Gounardes, Kaliforniya yasa tasarısının önemli bir eleştirisi olan, yeni kurulan şirketler ve akademik araştırmacılar için inovasyonu engellemekten kaçınmaya odaklandığını vurguladı.

"Bu teknolojinin hızlı evrimi nedeniyle güvenlik önlemlerini uygulama penceresi hızla daralıyor," dedi Senatör Gounardes. "Önde gelen AI uzmanları, bu risklerin oldukça olası olduğunu ve bunun endişe verici olduğunu söylüyor."

Yasa tasarısı şimdi Vali Kathy Hochul'un kararını bekliyor. Onu yasalaştırabilir, değişiklik için geri gönderebilir veya veto edebilir.

RAISE Yasası'nın Temel Hükümleri

  • Büyük AI laboratuvarlarından öncü AI modelleri için güvenlik ve emniyet raporları talep eder.
  • Model davranışı veya hırsızlığı gibi AI güvenlik olaylarının raporlanmasını gerektirir.
  • New York Başsavcısına, uyumsuzluk durumunda 30 milyon dolara kadar para cezası verme yetkisi verir.

RAISE Yasası, Kaliforniya (OpenAI ve Google gibi) ve Çin (DeepSeek ve Alibaba gibi) merkezli olanlar da dahil olmak üzere küresel olarak büyük şirketleri hedefliyor. Şeffaflık gereklilikleri, AI modelleri 100 milyon dolardan fazla bilgi işlem kaynağı kullanılarak eğitilmiş ve New York sakinleri tarafından erişilebilen şirketler için geçerlidir.

Endişeleri ve Eleştirileri Ele Alma

Her iki yasa tasarısı üzerinde de çalışan Encode'da Eyalet İşleri Başkan Yardımcısı ve Genel Hukuk Müşaviri Nathan Calvin'e göre, RAISE Yasası, SB 1047'ye benzer olsa da, önceki eleştirileri ele alıyor. RAISE Yasası, AI modelleri için bir "kapatma düğmesi" zorunlu kılmıyor ve şirketleri eğitim sonrası değişikliklerden kaynaklanan kritik zararlardan sorumlu tutmuyor.

Buna rağmen, New York Eyalet Meclis Üyesi ve ortak sponsor Alex Bores'e göre, yasa tasarısı Silikon Vadisi'nden muhalefetle karşılaştı. Endüstri baskısını kabul eden Bores, RAISE Yasası'nın teknolojik inovasyonu engellemeyeceğini savundu.

Güvenliğe odaklı bir AI laboratuvarı olan Anthropic, Kurucu Ortak Jack Clark'a göre henüz yasa tasarısı hakkında resmi bir tavır almadı. Ancak Clark, yasa tasarısının kapsamı ve daha küçük şirketler üzerindeki potansiyel etkisi konusunda endişelerini dile getirdi.

Senatör Gounardes bu eleştiriye karşı çıkarak, yasa tasarısının özellikle küçük şirketleri etkilemeyecek şekilde tasarlandığını belirtti.

OpenAI, Google ve Meta yorum taleplerine yanıt vermedi.

Potansiyel Ekonomik Etkileri

Bir diğer endişe de, AI geliştiricilerinin, SB 1047 ve sıkı teknoloji düzenlemeleri nedeniyle Avrupa'daki mevcut durum hakkındaki endişeleri yansıtarak, gelişmiş modelleri New York'tan çekebilecek olmaları. Meclis Üyesi Bores, RAISE Yasası'nın düzenleyici yükünün minimum düzeyde olduğunu ve özellikle eyaletin güçlü ekonomik durumu göz önüne alındığında, şirketleri New York'ta faaliyet göstermekten caydırmaması gerektiğini savundu.

"Potansiyel siyasi manevraları kabul etmekle birlikte, şirketlerin modellerini New York'tan çekmeleri için hiçbir ekonomik gerekçe olmadığına inanıyorum," dedi Meclis Üyesi Bores.