Son zamanlarda yapılan ve #WearthePants olarak adlandırılan bir sosyal medya deneyi, LinkedIn'in algoritmasında potansiyel cinsiyet önyargısı üzerine bir tartışma başlattı. Kadın kullanıcılar, profillerini geçici olarak erkek olarak değiştirdikten sonra gönderi etkileşimlerinde ve gösterimlerinde önemli artışlar bildirdiler; bu da birçok kişinin platformun yeni yapay zeka destekli içerik yüzeye çıkarma sisteminin erkek kodlu içeriği örtük olarak kayırabileceğinden şüphelenmesine yol açtı.
Tartışma, LinkedIn Mühendislik Başkan Yardımcısı Tim Jurka'nın Ağustos ayında platformun kullanıcılar için içerik alaka düzeyini artırmak amacıyla Büyük Dil Modelleri (LLM'ler) uygulamaya başladığını duyurmasının ardından ortaya çıktı. Bunun üzerine, birçok önde gelen LinkedIn kullanıcısı etkileşim ve gösterimlerinde gözle görülür bir düşüş fark etti ve bu durum algoritmanın adilliği hakkında şüpheleri artırdı.
#WearthePants Deneyi Tutarsızlıkları Ortaya Çıkarıyor
Kasım ayında, Michelle (gerçek adı değil) olarak anılan bir ürün stratejisti, bu hipotezi test etmeye karar verdi. 10.000'den fazla takipçisi olmasına rağmen, gönderilerinin genellikle sadece yaklaşık 2.000 takipçisi olan kocasının gönderileriyle benzer gösterimler aldığını fark etti. Cinsiyetin "tek önemli değişken" olabileceğine inanarak, TechCrunch'a anlattığı gibi, LinkedIn profil adını Michael olarak değiştirdi ve cinsiyetini erkek olarak ayarladı.
Michelle daha geniş bir hareketin parçasıydı. LinkedIn'de düzenli olarak gönderi paylaşan bir kurucu olan Marilynn Joyner da görünürlüğünün birkaç ay boyunca düştüğünü gördü. Profil cinsiyetini kadından erkeğe değiştirdiğinde, Joyner TechCrunch'a paylaştığı üzere, tek bir gün içinde gösterimlerinde şaşırtıcı bir %238'lik artış bildirdi. Megan Cornish, Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies ve Lucy Ferguson dahil olmak üzere çok sayıda başka kadın tarafından da benzer sonuçlar bildirildi ve bunlar çeşitli gönderi ve raporlarda belgelendi.
#WearthePants deneyi, girişimciler Cindy Gallop ve Jane Evans tarafından başlatıldı. Birçok kadının hissettiği etkileşim düşüşünün arkasında cinsiyetin olup olmadığını merak ederek iki erkekten kendileriyle aynı içeriği paylaşmalarını istediler. Gallop ve Evans'ın o dönemde erkeklerin yaklaşık 9.400 takipçisine kıyasla toplamda 150.000'den fazla takipçisi olmasına rağmen, Gallop gönderisinin sadece 801 kişiye ulaştığını bildirdi. Buna karşılık, tamamen aynı içeriği paylaşan erkek 10.408 kişiye ulaşarak takipçilerinin %100'ünü aştı. Bu bulgular, Joyner gibi kadınlar arasında endişeleri körükledi ve Joyner, "LinkedIn'in algoritmasında var olabilecek herhangi bir önyargı için sorumluluk almasını gerçekten çok isterim" dedi.
LinkedIn'in Resmi Durumu ve Uzman Analizi
LinkedIn bu iddiaları kesin bir dille reddetti. Şirket, "algoritmasının ve yapay zeka sistemlerinin, içerik, profil veya gönderilerin Akış'taki görünürlüğünü belirlemek için yaş, ırk veya cinsiyet gibi demografik bilgileri bir sinyal olarak kullanmadığını" belirtti. LinkedIn'in Sorumlu Yapay Zeka ve Yönetişim Başkanı Sakshi Jain, Kasım ayında bu pozisyonu yineleyerek, demografik verilerin yalnızca farklı yaratıcılardan gelen içeriğin eşit şekilde rekabet etmesini ve kaydırma deneyiminin tüm kitlelerde tutarlı olmasını sağlamak için dahili testler için kullanıldığını açıkladı.
Ancak, sosyal algoritma uzmanları, açık cinsiyetçiliğin doğrudan neden olmasa da, örtük önyargının hala etkili olabileceğini öne sürüyor. Veri etiği danışmanı Brandeis Marshall, platformların karmaşık doğasını vurgulayarak onları "belirli matematiksel ve sosyal kaldıraçları eş zamanlı ve sürekli olarak çeken karmaşık bir algoritmalar senfonisi" olarak tanımladı. Bir profil fotoğrafını ve adını değiştirmenin sadece bir kaldıraç olduğunu ve algoritmanın bir kullanıcının içerikle geçmiş ve mevcut etkileşimlerinden de etkilendiğini belirtti. Marshall, "Bu, insanların sandığından daha karmaşık bir sorun," diye ekleyerek, bir kişinin içeriğini diğerine göre önceliklendiren tüm faktörler etrafındaki şeffaflık eksikliğini vurguladı.
Şirketlerin yapay zeka sistemlerini nasıl uyguladığına dair "algoritmik kara kutu", kesin mekanizmaları belirlemeyi zorlaştırıyor. LinkedIn, diğer LLM'ye bağımlı platformlar gibi, içerik seçimi model eğitimine dair çok az detay sunuyor. Marshall, modelleri eğitenlerin demografik yapısı nedeniyle birçok platformun "doğal olarak beyaz, erkek, Batı merkezli bir bakış açısını" barındırdığına dikkat çekti. Araştırmacılar, popüler LLM'lerde cinsiyetçilik ve ırkçılık gibi insan önyargılarının kanıtlarını buluyor çünkü bu modeller insan tarafından üretilen içeriklerle eğitiliyor ve insanlar genellikle eğitim sonrası veya pekiştirmeli öğrenmede doğrudan yer alıyor.
Açık Önyargının Ötesinde: Ton, Stil ve Kullanıcı Davranışı
Ton ve yazım stili gibi diğer faktörler de gözlemlenen etkileşim değişikliklerine katkıda bulunabilir. Örneğin Michelle, "Michael" olarak gönderi paylaştığı hafta boyunca, kocası için hayalet yazarlık yaptığı tarza benzer şekilde, bilinçli olarak daha basit, doğrudan bir yazım stili benimsediğini belirtti. Bu ayarlama, bildirdiği %200'lük gösterim artışı ve %27'lik etkileşim artışıyla çakıştı. Sistemin "açıkça cinsiyetçi" olmasa da,
