Trilyon parametreli bir modeli, saniyeler içinde güncellemek mümkün mü?
Orijinal başlık: radixark /miles
KISACA
- Şaşırtıcı bilgi
- Açık kaynaklı Miles çerçevesi, trilyon parametreli modellerde bile yeni ağırlıkları saniyeler içinde motorlara ulaştırabiliyor.
- Neden önemli?
- Rollout ve eğitim tamamen birbirinden bağımsız çalıştığı için sistem, büyük ölçekli pekiştirmeli öğrenmenin en büyük darboğazlarından birini çözüyor.
Ne oldu?
GitHub Trending listelerine giren Miles, büyük dil modellerinin eğitim sonrası pekiştirmeli öğrenme (RL) aşaması için geliştirilmiş, kurumsal ölçekte açık kaynaklı bir çerçeve. Proje; yüksek verimli üretim için SGLang'i, ölçeklenebilir eğitim için Megatron-LM'i birleştiriyor ve trilyon parametreli modellerde bile ağırlık güncellemelerini saniyeler içinde motorlara ulaştırabiliyor. Rollout ve eğitim işçilerinin birbirinden bağımsız çalıştığı tam asenkron mimarisiyle, MXFP8 ve NVFP4 gibi düşük hassasiyetli eğitim formatlarını destekliyor. Miles ayrıca DeepSeek-V4, Kimi-K3 ve Nemotron 3 gibi güncel büyük modellerle uyumlu çalışıyor.
Model büyüdükçe, asıl mühendislik zorluğu eğitimin kendisi değil altyapısı oluyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Trilyon parametreli bir modeli, saniyeler içinde güncellemek mümkün mü?”, Notes for Data Science, 6 Eylül 2026.