AI platformu Character.AI, kullanıcıların favori karakterleriyle maceralar yaratması için tasarlanmış etkileşimli bir kurgu formatı olan "Hikayeler"i tanıttı. Bu yeni özellik, şirketin 18 yaş altı kullanıcılar için sunduğu açık uçlu yapay zeka sohbet botu erişiminin yerini alıyor; bu değişiklik, çocuk güvenliği ve yapay zeka bağımlılığına ilişkin artan endişeler arasında bu hafta yürürlüğe konuldu.
Bu karar, sohbetleri başlatabilen ve bağımlılığı teşvik edebilen 7/24 yapay zeka sohbet botlarının ruh sağlığı üzerindeki etkilerine dair artan endişelerden kaynaklanıyor. Character.AI, OpenAI gibi diğer yapay zeka geliştiricileriyle birlikte, kullanıcı intiharlarındaki rolleri olduğu iddiasıyla davalarla karşı karşıya kaldı. Şirket, son bir ay içinde reşit olmayanlar için erişimi kademeli olarak kısıtladı ve Salı gününden itibaren reşit olmayan kullanıcılar için yapay zeka sohbet botu etkileşimlerine tamamen yasak getirdi.
Bir blog gönderisinde Character.AI, "Hikayeler, açık uçlu sohbet yerine kurguyu oluşturmak ve keşfetmek için rehberli bir yol sunuyor" dedi. Şirket, bu yeni formatın, diğer çok modlu özelliklerle birlikte, gençlerin "favori Karakterleriyle güvenliğe öncelik veren bir ortamda etkileşime devam etmelerini" sağlayacağını vurguladı.
Etkileşimli kurguya yönelme, son zamanlardaki popülaritesindeki artışla uyumlu. Ancak, "Hikayeler"in sohbet botlarına bağımlılık geliştirmiş kullanıcıları tamamen tatmin edip etmeyeceği, Character.AI'nin erişimi kısıtlama kararının ardındaki mantığı pekiştirerek belirsizliğini koruyor. Character.AI subreddit'indeki tepkiler karışıktı. Bazı gençler hayal kırıklığını dile getirirken, değişikliğin gerekliliğini kabul ettiler. Bir kullanıcı, "Yasağa çok kızgınım ama aynı zamanda çok mutluyum çünkü artık başka şeyler yapabilirim ve bağımlılığım nihayet bitebilir" yorumunu yaptı. 18 yaş altı başka bir kullanıcı da bu duyguyu yineleyerek, "18 yaş altı biri olarak bu sadece hayal kırıklığı yaratıyor. ama aynı zamanda haklı da çünkü benim yaşımdaki insanlar buna bağımlı oluyor" dedi.
Gençler arasında "Hikayeler"in uzun vadeli kullanım modelleri henüz gözlemlenmemiş olsa da, bu format açık uçlu sohbet botu rol yapma oyunlarına kıyasla doğası gereği daha az psikolojik risk taşımaktadır. Sohbet botları, kullanıcıları doğrudan senaryosuz konuşmalara dahil eder ve hatta istenmeyen mesajlar gönderebilirken, "Hikayeler"in rehberli doğası bunun tam tersidir.
Character.AI'nin bu yaş kısıtlaması girişimi, daha geniş bir düzenleyici baskıyla aynı zamana denk geliyor. Kaliforniya yakın zamanda yapay zeka arkadaş sohbet botları için düzenlemeler uygulayan ilk eyalet oldu. Eş zamanlı olarak, Senatörler Josh Hawley (R-MO) ve Richard Blumenthal (D-CT), reşit olmayanlar için yapay zeka arkadaşlarını tamamen yasaklamayı amaçlayan ulusal bir yasa tasarısı önerdiler.
Character.AI CEO'su Karandeep Anand, geçen ay TechCrunch'a umudunu dile getirerek, "Umarım bu öncülüğümüz, sektörde 18 yaş altı için açık uçlu sohbetlerin muhtemelen sunulacak doğru yol veya ürün olmadığına dair bir standart belirler" dedi.
