DeepSeek Rilis DSpark: Percepat Inferensi LLM Hingga 85%

DeepSeek, perusahaan kecerdasan buatan asal Tiongkok, telah merilis kerangka kerja open-source baru bernama DSpark yang secara signifikan…

Sistem ini menggunakan decoding spekulatif, di mana model yang lebih kecil memprediksi beberapa token, yang kemudian diperiksa secara paralel oleh model utama. Ini mempercepat pembuatan teks tanpa mengubah…