Redis'in kurucusu, devasa yapay zekayı evinizde çalıştırıyor mu?
Orijinal başlık: From the creator of Redis; run LLM locally with ds4
KISACA
- Tek cümlede
- Redis'in yaratıcısı Salvatore Sanfilippo, ds4 adında C tabanlı bir yerel LLM çıkarım motoru yayınladı.
- Bulgu
- 2‑bit quantization ile DeepSeek, GLM ve Qwen gibi modelleri sıkıştırıp 39‑825 token/s hız elde ediliyor.
- Neden önemli?
- Bulut API'lerine bağımlılık kalktı; gizlilik, maliyet ve erişim açısından kişisel makineler AI çalıştırabilir hâle geldi.
Ne oldu?
Redis'in yaratıcısı Salvatore Sanfilippo (antirez), DwarfStar 4 (ds4) adlı C tabanlı bir yerel LLM çıkarım motoru yayınladı. Araç, DeepSeek V4/V4.1, GLM 5.x ve Qwen 3.8 gibi modelleri asimetrik 2-bit quantization ile kritik yolları koruyarak uzman bileşenleri sıkıştırıp yüksek bellekli kişisel makinelerde (Mac, CUDA, ROCm) çalıştırabiliyor. CLI sohbet, HTTP API sunucusu ve yerel kodlama ajanı olmak üzere üç arayüz sunuyor, SSD tabanlı KV cache kalıcılığıyla yeniden işleme yükünü azaltıyor ve donanıma göre saniyede 39 ile 825 token arasında değişen hız benchmark'ları paylaşıyor. Proje, uzak API servislerine bağımlı olmak yerine devasa modelleri yerel donanımda tutma fikrini öne çıkarıyor.
Bu adım, yapay zekanın bulutla sınırlı kalmayıp masaüstünde çalışmasını sağlıyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Redis'in kurucusu, devasa yapay zekayı evinizde çalıştırıyor mu?”, Notes for Data Science, 3 Ekim 2026.