Google siteyi sildi ama yapay zeka sahte verileri hâlâ 'doğru' kabul etmeye devam ediyor.
Orijinal başlık: Publish fake stats, get cited in LLMs
KISACA
- Tek cümlede
- Bir yazılımcı, GPT-4.1 ile 50 bin sahte istatistik üretti ve web sitesine yükledi.
- Bulgu
- ChatGPT bu sahte siteyi 7 ay boyunca kullandı; veriler bir bankanın raporuna bile girdi.
- Neden önemli?
- Modeller, bilgi boşluklarını doldurmak için doğrulama yapmadan kaynak taraması yapıyor.
Ne oldu?
Bir yazılımcı, GPT-4.1 ile 50 bin tamamen sahte istatistik üreterek yaklaşık 50 dolara 'StateGlobe.com' adlı bir web sitesi kurdu. Google siteyi arama sonuçlarından kaldırmasına rağmen ChatGPT siteyi yedi ay boyunca kullanıcılara göstermeye devam etti ve site 10 binden fazla AI oturumuna kaynaklık etti. Bu sahte sayılar bir akademik makalede ve bir bankanın yatırım raporunda bile kaynak olarak kullanıldı. Yazılımcı, büyük dil modellerinin bilgi boşluklarını doldurmak için spesifik istatistikler aradığını ve bunları nadiren doğruladığını, bu yüzden sahte veri yayınlamanın LLM'lerde kolayca atıf kazanabildiğini gösteriyor.
Yapay zekaya güvenmek için artık sadece 'ne söylediğine' değil, 'neden söylediğine' bakmak şart.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Google siteyi sildi ama yapay zeka sahte verileri hâlâ 'doğru' kabul etmeye devam ediyor.”, Notes for Data Science, 21 Ekim 2026.