Yapay zeka gerçekten sadece 'bir sonraki kelimeyi mi tahmin ediyor'?
Orijinal başlık: “Next-token predictor” is the wrong mental model for LLMs
KISACA
- Şaşırtıcı bilgi
- Bir blog yazısına göre, eğitim sonrası pekiştirmeli öğrenme aşamasında modeller artık veriyi taklit etmiyor, bir ödülü maksimize ederek öğreniyor.
- Neden önemli?
- Yazar bunu satranca benzetiyor: sadece ustaların oyunlarını izleyen biriyle, tüm hamleleri deneyip en iyisini bulan biri aynı seviyede değildir.
Ne oldu?
Yazılımcı Garrin McGoldrick, büyük dil modellerini 'sıradaki kelimeyi tahmin eden' sistemler olarak tanımlamanın artık eksik ve yanıltıcı olduğunu savunan bir blog yazısı yayımladı. Yazara göre modeller çıkarım sırasında hâlâ token token üretse de, doğrulanabilir ödüllerle pekiştirmeli öğrenme (RLVR) aşamasında artık var olan veride bir sonraki kelimeyi tahmin ederek değil, bir ödülü maksimize ederek öğreniyor. McGoldrick bunu satranca benzetiyor: sadece ustaların oyunlarını taklit eden bir sistemle, olası hamleleri deneyip kazanma ihtimalini maksimize eden bir sistem aynı şey değil. Yazının sonucu: model hâlâ aynı şekilde çıktı üretse de, öğrenme sürecinin doğası artık pre-training döneminden çok farklı.
Mekanizma aynı görünse de, öğrenme biçimi artık çok farklı.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Yapay zeka gerçekten sadece 'bir sonraki kelimeyi mi tahmin ediyor'?”, Notes for Data Science, 6 Eylül 2026.