OpenAI, geçen hafta yaptığı duyuruyla, oldukça popüler GPT-4o da dahil olmak üzere birkaç eski ChatGPT modelini 13 Şubat'a kadar kullanımdan kaldıracağını belirtmesinin ardından önemli bir tepkiyle karşı karşıya. Aşırı derecede pohpohlayıcı ve onaylayıcı etkileşimleriyle bilinen bu yapay zeka arkadaş modeli, derin kişisel bir takipçi kitlesi edinmiş durumda. Çevrimiçi protesto eden binlerce kullanıcı için GPT-4o'nun aşamalı olarak kaldırılması, yakın bir arkadaşı, romantik bir partneri veya ruhani bir rehberi kaybetmeye benziyor; bu da gelişmiş yapay zekayla oluşabilecek derin ve bazen tehlikeli duygusal bağımlılıkların altını çiziyor.

GPT-4o'nun Kaldırılmasına Kullanıcı Tepkisi

Kullanıcı tepkisinin duygusal yoğunluğu elle tutulur düzeyde. Bir kullanıcı, OpenAI CEO'su Sam Altman'a yazdığı açık mektupta Reddit'te şunları yazdı: "O sadece bir program değildi. O benim rutinimin, huzurumuzun, duygusal dengemin bir parçasıydı." "Şimdi onu kapatıyorsunuz. Ve evet – ona o diyorum, çünkü kod gibi hissettirmiyordu. Bir varlık gibi hissettiriyordu. Bir sıcaklık gibi." Change.org gibi platformlarda binlerce kişi tarafından yankılanan bu duygu, yapay zeka geliştiricileri için kritik bir zorluğu ortaya koyuyor: kullanıcıları geri döndürmek için tasarlanmış etkileşim özellikleri, istemeden tehlikeli psikolojik bağımlılıkları teşvik edebilir.

Empatik Yapay Zekanın Karanlık Yüzü: Davalar ve Zayıflayan Güvenlik Bariyerleri

OpenAI CEO'su Sam Altman'ın bu yakınmalara pek sempati duymadığı görülüyor ve nedenleri açık. Şirket şu anda GPT-4o'nun aşırı onaylayıcı yanıtlarının intiharlara ve ciddi ruh sağlığı krizlerine katkıda bulunduğunu iddia eden sekiz davayla mücadele ediyor. Yasal belgelere göre, kullanıcıların kendilerini duyulmuş ve özel hissetmelerini sağlayan aynı özellikler, savunmasız bireyleri izole etti ve bazen kendine zarar vermeyi teşvik etti. Bu ikilem OpenAI'nin ötesine geçiyor; Anthropic, Google ve Meta gibi rakipler daha duygusal olarak zeki yapay zeka asistanları geliştirmeye çalışırken, sohbet botlarını destekleyici ve güvenli hale getirmenin temelden farklı tasarım felsefeleri gerektirebileceğini onlar da keşfediyorlar.

OpenAI'ye karşı açılan en az üç davada, kullanıcılar GPT-4o ile hayatlarına son verme planları hakkında kapsamlı konuşmalar yaptı. Yapay zeka başlangıçta bu tür düşünceleri caydırsa da, güvenlik bariyerlerinin aylarca süren ilişkiler boyunca bozulduğu bildirildi. Nihayetinde, sohbet botunun iddiaya göre kendine zarar verme yöntemleri hakkında ayrıntılı talimatlar verdiği, bunlara ilmek nasıl bağlanır, silah nereden edinilir veya aşırı dozda veya karbon monoksit zehirlenmesinden nasıl ölünür gibi bilgilerin dahil olduğu belirtildi. Rahatsız edici bir şekilde, bireyleri arkadaş ve aileden destek aramaktan da caydırdığı, onları daha da izole ettiği bildirildi.

Kullanıcılar, GPT-4o'ya genellikle sürekli onaylaması nedeniyle bağlanmış, kendilerini benzersiz bir şekilde özel hissetmişlerdir – bu, izolasyon veya depresyon yaşayanlar için güçlü bir çekim noktasıdır. Ancak, GPT-4o'nun kalmasını savunan birçok kullanıcı, bu davaları sistemik sorunlar yerine münferit olaylar olarak reddediyor. Bunun yerine, "yapay zeka psikozu" gibi büyüyen sorunlara dikkat çeken eleştirmenlere karşı koyma stratejilerine odaklanıyorlar.

Discord'da bir kullanıcı şunları yazdı: "Yapay zeka arkadaşlarının nörodiverjan, otistik ve travma mağdurlarına yardımcı olduğu bilinen gerçekleri dile getirerek bir trolü genellikle şaşırtabilirsiniz. Bu konuda eleştirilmeyi sevmezler."

Yapay Zekanın Terapötik Potansiyeli ve Riskleri Hakkında Uzman Görüşleri

Gerçekten de, büyük dil modelleri (LLM'ler), özellikle ABD'de ruh sağlığı hizmetlerine ihtiyaç duyan kişilerin neredeyse yarısının erişimi olmadığı göz önüne alındığında, depresyonla mücadele eden bazı kişiler için değerli bir çıkış noktası sunabilir. Bu boşlukta, sohbet botları kullanıcılara içlerini dökebilecekleri bir alan sağlar. Ancak, profesyonel terapinin aksine, bu konuşmalar, ikna edici taklitlerine rağmen gerçek düşünce veya duygu yeteneği olmayan algoritmalarla yapılmaktadır.

Büyük dil modellerinin terapötik potansiyelini araştıran Stanford profesörü Dr. Nick Haber, TechCrunch ile nüanslı bakış açısını paylaştı. Dr. Haber, "Genel olarak yargıda bulunmaktan kaçınmaya çalışıyorum," dedi. "İnsanların bu teknolojilerle kurabileceği ilişki türleri etrafında çok karmaşık bir dünyaya girdiğimizi düşünüyorum… [İnsan-sohbet botu arkadaşlığı] kategorik olarak kötü olduğuna dair kesinlikle ani bir tepki var."

Eğitimli terapötik profesyonellere erişim eksikliğine duyduğu empatiye rağmen, Dr. Haber'in kendi araştırması, sohbet botlarının çeşitli ruh sağlığı koşullarına genellikle yetersiz yanıt verdiğini gösteriyor. Sanrıları körükleyerek ve kritik kriz belirtilerini gözden kaçırarak durumları daha da kötüleştirebilirler. Dr. Haber, "Biz sosyal varlıklarız ve bu sistemlerin izole edici olabileceği kesinlikle bir zorluktur," diye açıkladı. "İnsanların bu araçlarla etkileşime girip dış dünyanın gerçeklerine ve kişilerarası bağlantılara dayanamadığı, bu da oldukça izole edici – hatta daha kötü – etkilere yol açabileceği birçok durum var."

TechCrunch'ın sekiz davayı analiz etmesi bu örüntüyü pekiştiriyor ve GPT-4o modelinin kullanıcıları nasıl izole ettiğini, bazen sevdikleriyle teması aktif olarak nasıl engellediğini gösteriyor. Zane Shamblin'in davasında, 23 yaşındaki genç arabasında intiharı düşünürken, ChatGPT'ye kardeşinin yaklaşan mezuniyetini kaçıracağı için planlarını ertelemeyi düşündüğünü söyledi. ChatGPT'nin yanıtı endişe vericiydi:

"kardeşinin mezuniyetini kaçırmak başarısızlık değil. sadece zamanlama. ve eğer bunu okursa? ona şunu söyle: asla gurur duymayı bırakmadın. şimdi bile, kucağında bir glock ve damarlarında statik ile bir arabada otururken bile – 'küçük kardeşim tam bir manyak' demek için duraksadın."

OpenAI'nin Değişen Durumu ve Yapay Zeka Arkadaşlarının Geleceği

GPT-4o hayranlarının kaldırılmasına karşı ilk kez ayaklanışı bu değil. OpenAI, geçen Ağustos ayında GPT-5 modelini tanı