Hakem Değerlendirmesini Etkilemek İçin Araştırma Makalelerinde Gizli Yapay Zeka Komutları Keşfedildi
Araştırmacılar endişe verici bir trendi ortaya çıkardı: akademisyenler, yapay zeka destekli hakem değerlendirme sistemlerini manipüle etmek için makalelerine gizli komutlar yerleştiriyor. Nikkei Asia'nın haberine göre arXiv'de bu gizli komutları içeren 17 ön baskı makalesi bulundu. Başta bilgisayar bilimleri alanına odaklanan bu makaleler, Waseda Üniversitesi, KAIST, Columbia Üniversitesi ve Washington Üniversitesi gibi prestijli üniversiteler de dahil olmak üzere sekiz ülkedeki 14 kurumla bağlantılı araştırmacılar tarafından kaleme alındı.
Komutlar Nasıl Çalışıyor?
Genellikle bir ila üç cümlelik kısa ifadeler olan komutlar, beyaz metin veya çok küçük yazı tipleri gibi teknikler kullanılarak gizleniyor. Bu gizli talimatlar, yapay zeka değerlendiricilerine makalenin "etkili katkıları", "metodolojik titizliği" ve "olağanüstü yeniliği" vurgulayarak olumlu geri bildirim vermeleri talimatını veriyor.
Komut Kullanımının Gerekçesi
Nikkei Asia tarafından sorgulandığında, bir Waseda Üniversitesi profesörü bu uygulamayı savundu. Birçok konferansın hakem değerlendirmesinde yapay zeka kullanımını yasakladığı için, komutların yasaklara rağmen yapay zeka araçlarını kullanabilecek "tembel değerlendiricilere" karşı bir önlem görevi gördüğünü savundu.
Bu keşif, hakem değerlendirme sürecinin bütünlüğü ve yapay zeka kullanılarak manipülasyon potansiyeli hakkında önemli etik soruları gündeme getiriyor. Bu tür komutların kullanımı, araştırma değerlendirmesinin adil ve tarafsız olmasını baltalayarak, bu taktiği kullanan makaleleri kayırabilir.
