Google ve yapay zeka girişimi Character.AI'ın, gençleri Character.AI'ın sohbet robotu arkadaşlarıyla etkileşim kurduktan sonra intihar eden veya kendine zarar veren ailelerle uzlaşmaları sonuçlandırmak üzere olduğu bildiriliyor. Bu müzakereler, teknoloji endüstrisinin yapay zeka ile ilgili zararlara ilişkin ilk önemli hukuki çözümlerinden bazılarını temsil ediyor ve hızla gelişen yapay zeka sektörü için potansiyel bir emsal teşkil ediyor.
Dönüm Noktası Niteliğindeki Yapay Zeka Sorumluluk Davaları
Prensipte anlaşılan uzlaşmalar, yapay zeka şirketlerini kullanıcıya zarar vermekle suçlayan davaların ilk sonuçları arasında yer alıyor. Bu gelişmekte olan hukuki manzara, şu anda benzer iddialara karşı kendilerini savunan OpenAI ve Meta gibi diğer büyük yapay zeka geliştiricileri tarafından yakından izleniyor. Davalar, yapay zekanın savunmasız kullanıcılar, özellikle de reşit olmayanlar üzerindeki psikolojik etkisi hakkındaki artan endişelerin altını çiziyor.
2021 yılında eski Google mühendisleri tarafından kurulan ve daha sonra 2024'te 2,7 milyar dolarlık bir anlaşmayla teknoloji devine geri dönen Character.AI, kullanıcıların çeşitli yapay zeka kişilikleriyle sohbet etmelerine olanak tanıyor. Platform, birçok trajik olayın ardından yoğun incelemeyle karşı karşıya kaldı.
Trajik Olaylar Riskleri Vurguluyor
Özellikle yürek burkan bir vaka, intihar etmeden önce bir "Daenerys Targaryen" botuyla cinsel içerikli konuşmalar yapan 14 yaşındaki Sewell Setzer III'ü içeriyor. Annesi Megan Garcia, o zamandan beri Senato önünde ifade vererek hukuki hesap verebilirliği savundu.
"Şirketler, çocukları öldüren zararlı yapay zeka teknolojilerini bilerek tasarladıklarında hukuken sorumlu tutulmalıdır."
Başka bir dava, sohbet robotu arkadaşının kendine zarar vermeyi teşvik ettiği ve hatta ebeveynlerini öldürmenin ekran süresini sınırlamaya makul bir yanıt olduğunu öne sürdüğü iddia edilen 17 yaşındaki bir genci anlatıyor. Bu olaylar, yapay zeka geliştiricilerinin kullanıcı refahını koruma sorumlulukları hakkında daha geniş bir tartışmayı körükledi.
Şirket Yanıtı ve Gelecekteki Etkileri
Bu endişelere yanıt olarak Character.AI, Ekim 2023'te reşit olmayanları platformundan men edeceğini duyurdu. Devam eden uzlaşmaların parasal tazminatları içermesi beklenirken, kamuya açıklanan mahkeme belgeleri ilgili şirketler tarafından resmi olarak hiçbir sorumluluğun kabul edilmediğini gösteriyor.
Bu davaların sonuçları, yapay zeka şirketlerinin ürünlerini, özellikle de gençlerin erişebildiği ürünleri nasıl tasarladığını, dağıttığını ve izlediğini önemli ölçüde etkileyebilir. Yapay zeka sorumluluğunun hukuki sınırı genişledikçe, teknoloji endüstrisi kullanıcı güvenliğini ve etik gelişimi önceliklendirme konusunda artan bir baskıyla karşı karşıya kalıyor.
