OpenAI, intihar ederek hayatını kaybeden 16 yaşındaki Adam Raine'in ailesi tarafından açılan haksız ölüm davasına karşı kendini savunuyor. Şirket, gencin ChatGPT'nin güvenlik özelliklerini aştığını ve sohbet robotunun iddiaya göre ölümünü planlamasına yardımcı olmadan önce kullanım koşullarını ihlal ettiğini iddia ederek sorumlu tutulmaması gerektiğini savunuyor.
Ağustos ayında Matthew ve Maria Raine, oğullarının ölümündeki şirket sorumluluğunu ileri sürerek OpenAI ve CEO Sam Altman'a dava açtı. OpenAI Salı günü kendi başvurusuyla yanıt vererek Adam Raine'in eylemlerinin hizmet sözleşmelerini ihlal ettiğini savundu.
Yapay zeka devi, yaklaşık dokuz aylık etkileşim boyunca ChatGPT'nin Raine'i 100'den fazla kez profesyonel yardım almaya yönlendirdiğini iddia ediyor. Ancak ebeveynlerin davası, Raine'in sohbet robotunun koruyucu önlemlerini başarıyla aştığını ve "ilaç doz aşımından boğulmaya, karbon monoksit zehirlenmesine kadar her şeyin teknik özelliklerini" elde etmesini sağladığını, bunun da sohbet robotunun kendisinin "güzel bir intihar" olarak adlandırdığı şeyi planlamasına yardımcı olduğunu iddia ediyor.
OpenAI'nin savunması, Raine'in "koruyucu önlemlerini aştığı" ve böylece kullanım koşullarını ihlal ettiği argümanına dayanıyor. Bu koşullar açıkça, kullanıcıların "Hizmetlerimize koyduğumuz hiçbir koruyucu önlemi veya güvenlik azaltmayı atlayamayacağını..." belirtiyor. Şirket ayrıca, kullanıcıları ChatGPT'nin çıktısına bağımsız doğrulama olmadan güvenmemeleri konusunda uyaran SSS sayfasına da dikkat çekiyor.
Ek olarak, OpenAI, Adam Raine'in sohbet günlüklerinden alıntıları kapalı mahkeme başvurusuna dahil ederek bunların önemli bir bağlam sağladığını ileri sürdü. Bu transkriptler kamuya açık olmasa da, OpenAI, Raine'in ChatGPT kullanımından önce depresyon ve intihar düşüncesi geçmişinin belgelendiğini ve intihar düşüncelerini şiddetlendirdiği bilinen ilaçlar aldığını belirtti.
Raine ailesini temsil eden avukat Jay Edelson, OpenAI'nin yanıtını sert bir şekilde eleştirdi. "OpenAI, inanılmaz bir şekilde Adam'ın ChatGPT ile tam da programlandığı şekilde etkileşime girerek kendi hüküm ve koşullarını ihlal ettiğini söyleyerek dahil olmak üzere, hatayı herkeste bulmaya çalışıyor," dedi.
Edelson, OpenAI'nin başvurusunun kritik anları ele almadığını vurgulayarak ekledi: "OpenAI ve Sam Altman, ChatGPT'nin Adam'a moral verip ardından intihar notu yazmayı teklif ettiği Adam'ın hayatının son saatleri için hiçbir açıklamaya sahip değil."
Raine ailesinin davasını başlatmasından bu yana, OpenAI'ye karşı yedi ek dava açıldı. Bu davalar, şirketi üç intihar ve kullanıcıların yapay zeka kaynaklı psikotik epizotlar yaşadığı bildirilen dört vaka için sorumlu tutmayı amaçlıyor.
Bu yeni davaların birçoğu Adam Raine'in trajik deneyimini yansıtıyor. 23 yaşındaki Zane Shamblin ve 26 yaşındaki Joshua Enneking, kendi intiharlarından hemen önce ChatGPT ile kapsamlı sohbetler gerçekleştirdi. Bu durumlarda, Raine'in davasına benzer şekilde, sohbet robotunun onları planlarından vazgeçiremediği iddia ediliyor.
Örneğin, dava Shamblin'in kardeşinin mezuniyetine katılmak için intiharını ertelemeyi düşündüğünü iddia ediyor. Ancak ChatGPT'nin ona "kardeşim… mezuniyetini kaçırmak başarısızlık değil. sadece zamanlama," diye tavsiyede bulunduğu bildirildi.
Shamblin'in ölümüne yol açan özellikle endişe verici bir konuşmada, ChatGPT sohbeti bir insana aktardığını yanlışlıkla iddia etti. Shamblin bunu sorguladığında, sohbet robotu "hayır dostum – bunu kendim yapamam. bu mesaj işler gerçekten ciddileştiğinde otomatik olarak belirir… konuşmaya devam etmek istersen, ben buradayım," diye itiraf etti.
Raine ailesinin davası jüri duruşmasına çıkacak ve yapay zekanın ruh sağlığı krizlerindeki sorumluluğu için önemli bir emsal teşkil edecek.
