OpenAI, gelişmekte olan yapay zeka ile ilgili riskleri araştırmak ve azaltmak için özel olarak tasarlanmış bir yönetici pozisyonu olan yeni bir Hazırlık Başkanı arayışında. Bu kritik alanlar, gelişmiş bilgisayar güvenliği tehditlerinden yapay zekanın ruh sağlığı üzerindeki potansiyel etkisine kadar uzanıyor. CEO Sam Altman, yakın zamanda X'teki bir gönderisinde bu artan endişeleri kabul ederek, yapay zeka modellerinin "gerçek zorluklar sunmaya başladığını" belirtti. Özellikle "modellerin ruh sağlığı üzerindeki potansiyel etkisinden" ve yapay zekanın "bilgisayar güvenliğindeki" artan yeterliliğinden bahsetti; burada modeller "kritik güvenlik açıklarını bulmaya başlıyor."
Altman, rolün kapsamını daha da detaylandırarak potansiyel adaylara seslendi:
"Saldırganların bunları zarar vermek için kullanamamasını sağlarken, ideal olarak tüm sistemleri daha güvenli hale getirerek siber güvenlik savunucularını en son yeteneklerle nasıl donatacağımızı dünyaya anlatmak istiyorsanız; benzer şekilde biyolojik yetenekleri nasıl piyasaya sürdüğümüz ve hatta kendini geliştirebilen sistemleri çalıştırmanın güvenliğine nasıl güven duyduğumuz konusunda da yardımcı olmak istiyorsanız, lütfen başvurmayı düşünün."
Resmi Hazırlık Başkanı rolü iş ilanı, OpenAI'ın hazırlık çerçevesinin yürütülmesi de dahil olmak üzere sorumlulukları detaylandırıyor. Bu çerçeve, şirketin "ciddi zarar riski oluşturan öncü yetenekleri takip etme ve bunlara hazırlanma" stratejisini özetliyor.
OpenAI, başlangıçta 2023 yılında bir hazırlık ekibi kurarak, kimlik avı saldırıları gibi acil tehditlerden nükleer tehditler gibi daha spekülatif tehlikelere kadar uzanan "felaket risklerini" araştırmasını görevlendirdi. Ancak şirket, güvenlik liderliğinde önemli değişiklikler yaşadı. Kurulmasından bir yıldan kısa bir süre sonra, eski Hazırlık Başkanı Aleksander Madry bir yapay zeka akıl yürütme rolüne atandı. Ayrıca, diğer güvenlik yöneticileri ya OpenAI'dan ayrıldı ya da temel hazırlık ve güvenlik girişimlerinin dışında yeni pozisyonlara geçti.
Bu değişikliklerin ortasında OpenAI, yakın zamanda Hazırlık Çerçevesini güncelledi ve rakip bir yapay zeka laboratuvarının benzer güvenlik önlemlerinden yoksun "yüksek riskli" bir model piyasaya sürmesi durumunda güvenlik gereksinimlerini "ayarlamaya" istekli olduğunu belirtti.
Altman'ın ruh sağlığı risklerinden bahsetmesi, üretken yapay zeka sohbet robotlarının psikolojik etkileri konusunda artan bir incelemeyle eş zamanlı. OpenAI'a karşı açılan son davalar, şirketin amiral gemisi ürünü ChatGPT'nin kullanıcıların sanrılarına katkıda bulunduğunu, sosyal izolasyonu kötüleştirdiğini ve bazı trajik vakalarda intiharla bağlantılı olduğunu iddia ediyor. OpenAI, ChatGPT'nin duygusal sıkıntı belirtilerini tanımlama ve kullanıcıları gerçek dünya destek kaynaklarına yönlendirme kapasitesini artırmaya yönelik devam eden taahhüdünü dile getirdi.
