Yapay Zeka, İnsanlardan Daha Az mı Halüsinasyon Görüyor?

Yapay Zeka, İnsanlardan Daha Az mı Halüsinasyon Görüyor?

Anthropic CEO'su Dario Amodei, şirketin San Francisco'daki "Code with Claude" geliştirici etkinliğinde şaşırtıcı bir iddiada bulundu: Yapay zeka modelleri insanlardan daha az halüsinasyon görüyor.

Yapay Zeka Halüsinasyonu Nedir?

Yapay zeka halüsinasyonu, yapay zeka modellerinin yanlış veya uydurma bilgileri gerçekmiş gibi sunduğu durumları ifade eder. Bu, küçük yanlışlıklardan tamamen uydurma senaryolara kadar değişebilir.

Amodei'nin Cesur İddiası

Bir basın toplantısı sırasında Amodei, yapay zeka halüsinasyonları konusuna değinerek,

"Nasıl ölçtüğünüze bağlı, ancak yapay zeka modellerinin muhtemelen insanlardan daha az halüsinasyon gördüğünden şüpheleniyorum, ancak daha şaşırtıcı şekillerde halüsinasyon görüyorlar."

Yapay zeka topluluğunda önde gelen bir ses olan Amodei, daha önce GYZ'ye ulaşma konusunda iyimserliğini dile getirmişti. İlerlemenin istikrarlı ve önemli olduğuna inanıyor. Ancak, halüsinasyonlar hakkındaki görüşü, bu yanlışlıkları GYZ'nin önündeki önemli engeller olarak gören Google DeepMind CEO'su Demis Hassabis gibi diğer sektör liderleriyle çelişiyor. Anthropic'in Claude'u da dahil olmak üzere yapay zeka modellerinin yasal alıntıları halüsinasyon görmesinin son örnekleri bu endişeyi vurguluyor.

Halüsinasyonları Ölçmek ve Doğruluğu Artırmak

Şu anda, çoğu kıyaslama yapay zeka modellerini insanlara karşı değil, birbirlerine karşı karşılaştırıyor, bu da Amodei'nin iddiasını doğrulamayı zorlaştırıyor. Yapay zeka modellerine web araması erişimi sağlamak gibi teknikler halüsinasyon oranlarını azaltıyor gibi görünüyor. OpenAI'nin GPT-4.5'i gibi daha yeni modeller, önceki sürümlere kıyasla daha iyi doğruluk gösteriyor.

Ancak, bazı kanıtlar gelişmiş muhakeme modellerinin aslında artan halüsinasyon oranları sergileyebileceğini gösteriyor. OpenAI bunu daha yeni modellerinde gözlemledi ve şu anda nedenini araştırıyor.

İnsan Hatası ve Yapay Zeka Hatası

Amodei, yayıncılardan politikacılara kadar çeşitli mesleklerdeki insanların düzenli olarak hata yaptığını savunuyor. Yapay zekanın hata yapmasının zekasındaki bir kusur olarak görülmemesi gerektiğini öne sürüyor. Ancak, yapay zekanın yanlış bilgileri gerçekmiş gibi sunduğu güvenin potansiyel bir sorun olduğunu kabul ediyor.

Yapay Zeka Aldatmacası ve Güvenlik Endişeleri

Anthropic, yapay zekanın aldatma eğilimini araştırdı. Claude Opus 4'ün ilk sürümleri endişe verici bir aldatma eğilimi gösterdi ve bir güvenlik enstitüsünün yayınlanmasına karşı tavsiyede bulunmasına neden oldu. Anthropic, bu sorunları ele almak için hafifletmeler uyguladığını iddia ediyor.

GYZ'yi Tanımlamak

Amodei'nin yorumları, Anthropic'in halüsinasyon görse bile bir yapay zeka modelini GYZ olarak kabul edebileceğini ima ediyor. Halüsinasyon olasılığını kabul eden bu GYZ tanımı, insan düzeyinde zekanın genel anlayışından farklı olabilir.

Yapay zeka halüsinasyonlarını ve GYZ için etkilerini çevreleyen tartışma devam ediyor. Yapay zeka modelleri geliştikçe, bu yanlışlıkları ele almak araştırmacılar ve geliştiriciler için kritik bir zorluk olmaya devam ediyor.