Yapay zekanın taraflı çıkması, soru şekline bağlı olabilir.
Orijinal başlık: The Audit Decides the Verdict: Instrument Effects Rival Demographic Bias in LLM Decision Audits
KISACA
- Neden önemli?
- Aynı model, aynı başvuruya farklı testte tam tersi kararlar verebiliyor.
- Bulgu
- İşe alım, kredi ve tıbbi triyajda 5 modele gönderilen 40.726 talep, sorma biçiminin sonucu değiştirdiğini gösterdi.
Ne oldu?
Bir yapay zeka modelinin önyargılı olup olmadığı, ona sorunun nasıl sorulduğuna bağlı olabilir. Bir hayır kurumu yardım testinde, aynı modellerin başvuruları tek tek değerlendirirken azınlık başvuranları kayırdığı, yan yana sıralarken ise cezalandırdığı görülmüştü. Yeni bir araştırma, bu tersine dönmenin işe alım, kredi ve tıbbi triyaj gibi alanlarda da geçerli olup olmadığını, beş modele gönderilen 40.726 talep üzerinden test ediyor. Sonuçlar, bir denetimin 'testi nasıl kurguladığının', ölçtüğü demografik önyargı kadar sonucu etkileyebileceğini gösteriyor.
Bir yapay zeka denetiminin sonucu, bazen modelden çok testin kendisine bağlı.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Yapay zekanın taraflı çıkması, soru şekline bağlı olabilir.”, Notes for Data Science, 9 Eylül 2026.