DeepSeek veröffentlicht DSpark: LLM-Inferenz bis zu 85% schneller

DeepSeek, ein chinesisches Unternehmen für künstliche Intelligenz, hat ein neues Open-Source-Framework namens DSpark veröffentlicht, das die…

Das System verwendet spekulative Dekodierung, bei der ein kleineres Modell mehrere Token vorhersagt, die dann vom Hauptmodell parallel überprüft werden. Dies beschleunigt die Textgenerierung, ohne die Ausgabe…