GPT'ler cinsiyet önyargısını gizlice nasıl saklıyor?
Orijinal başlık: Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations
KISACA
- Tek cümlede
- Araştırmacılar, 15 GPT modelinde 450 bin cinsiyetli tamamlama inceledi.
- Bulgu
- Güvenlik eğitimi skoru düşürse de, ayrımcılık hâlâ var, sadece daha örtük hâle geldi.
- Neden önemli?
- Bu örtük önyargı, kullanıcıları etkileyebilir ve mevcut güvenlik testleri yetersiz kalıyor.
Ne oldu?
Araştırmacılar, GPT-2'den güncel modellere kadar 15 farklı dil modelinde 450.000 cinsiyete yönelik tamamlamayı analiz etti. Bulgulara göre, güvenlik eğitimi sonraki model nesillerinde yüzeysel sınıflandırıcıların ölçtüğü 'zarar skorları' düşse de, açık ayrımcı içerik yok olmuyor, sadece daha örtük bir forma dönüşüyor. Araştırmacılar bu durumu 'zarar aklama' (harm laundering) olarak adlandırıyor ve mevcut güvenlik değerlendirme yöntemlerinin bu dönüşümü yakalayamadığı için sistematik olarak eksik kaldığını savunuyor.
Yapay zeka güvenliğini ölçmek, sadece zararı saymakla yetinmemeli.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “GPT'ler cinsiyet önyargısını gizlice nasıl saklıyor?”, Notes for Data Science, 18 Eylül 2026.