DeepSeek, LLM çıkarımını %85'e kadar hızlandıran DSpark'ı açık kaynak olarak yayınladı

DeepSeek, büyük dil modellerinin (LLM) çıkarım hızını önemli ölçüde artırmayı hedefleyen yeni bir açık kaynak çerçeve olan DSpark'ı duyurdu. Bu sistem, MIT lisansı altında yayınlanarak geliştiricilerin ve araştırmacıların kullanımına sunuldu. DSpark, spekülatif kod çözme adı verilen bir teknik kullanarak, modelin her bir token'ı tek tek üretmesi yerine, daha küçük bir yardımcı modelin öngörüleriyle birden fazla token'ı aynı anda işlemesine olanak tanıyor. Bu sayede, kullanıcıların yanıtları beklerken hissettiği gecikme süresi ciddi oranda azalıyor.

DeepSeek'in testlerine göre, DSpark, DeepSeek-V4-Flash modelinde kullanıcı başına token üretim hızını %60 ila %85 oranında artırırken, daha büyük DeepSeek-V4-Pro modelinde ise %57 ila %78 arasında iyileştirme sağlıyor. Bu hız artışları, sistemin aynı donanım üzerinde daha fazla eşzamanlı kullanıcıya hizmet verebilmesini de mümkün kılıyor. Özellikle yüksek trafikli ortamlarda, DSpark'ın eski yöntemlere kıyasla çok daha verimli çalıştığı belirtiliyor.

DSpark'ın temel prensibi, büyük modele her adımda danışmak yerine, hafif bir 'izci' modelin birkaç adım ilerisini tahmin etmesi ve büyük modelin bu tahminleri hızlıca doğrulamasıdır. Bu yaklaşım, doğruluktan ödün vermeden hız kazandırır. DeepSeek, bu tekniğin yalnızca kendi modelleriyle sınırlı olmadığını, Alibaba'nın Qwen ve Google'ın Gemma gibi diğer açık ağırlıklı modellerde de uygulanabileceğini gösteren kontrol noktaları yayınladı.

Spekülatif kod çözme fikri yeni olmasa da, DSpark'ın getirdiği yenilik, bu tekniği büyük ölçekli üretim sistemlerinde uygulanabilir kılmasıdır. DeepSeek, DSpark'ı kendi en yeni modelleri olan DeepSeek-V4-Flash (284 milyar parametre) ve DeepSeek-V4-Pro (1.6 trilyon parametre) üzerinde test etti ve kayda değer performans iyileştirmeleri elde etti. Bu modeller, bir milyon token'a kadar bağlam penceresini destekliyor.

Bu gelişme, yapay zeka alanındaki jeopolitik gerilimlerin arttığı bir dönemde geldi. ABD'nin Anthropic ve OpenAI gibi şirketlerin yeni modellerine yönelik kısıtlamalarına rağmen, DeepSeek'in açık kaynak stratejisi, küresel yapay zeka gelişimini etkilemeye devam ediyor. DSpark'ın MIT lisansı altında yayınlanması, ticari ve akademik kullanım için önemli bir engeli kaldırarak, daha hızlı ve verimli yapay zeka sistemlerinin yaygınlaşmasına katkı sağlayabilir.