Bir GPU sunucusunda ChatGPT benzeri bir model çalıştırılabiliyor mu?
Orijinal başlık: karpathy /nanochat
KISACA
- Tek cümlede
- Andrej Karpathy, nanochat'i GitHub'de yayınladı; kod minimal, tek bir derinlik ayarıyla çalışıyor.
- Bulgu
- GPT-2 seviyesindeki model, 8xH100'lü tek bir sunucuda yaklaşık 48 dolara, spot sunucuda ise 15 dolara eğitilebiliyor.
Ne oldu?
Andrej Karpathy, tek bir GPU sunucusunda (8xH100) eğitilebilen minimal bir ChatGPT benzeri sistem olan nanochat'i yayınladı. Proje tokenizasyon, ön eğitim, ince ayar, değerlendirme ve çıkarımı kapsıyor; GPT-2 seviyesinde bir model yaklaşık 48 dolara, spot sunucuda ise 15 dolara eğitilebiliyor. Kod tabanı kasıtlı olarak minimal ve üzerinde oynanabilir tutulmuş; tek bir "depth" ayarı diğer tüm hiperparametreleri otomatik belirliyor. Proje ayrıca GPT-2 seviyesine ulaşma süresini ölçen bir "time to GPT-2" lider tablosu da tutuyor ve MIT lisansıyla yayınlandı.
Büyük altyapı yatırımı olmadan yapay zeka deneyi yapmak mümkün hale geliyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Dr. Hasan Amanet, “Bir GPU sunucusunda ChatGPT benzeri bir model çalıştırılabiliyor mu?”, Notes for Data Science, 3 Kasım 2026.