DeepSeek تطلق DSpark، إطار عمل جديد لتسريع استدلال LLM بنسبة تصل إلى 85%
أصدرت DeepSeek إطار عمل مفتوح المصدر جديدًا باسم DSpark، يمكنه تسريع استدلال نماذج اللغة الكبيرة (LLM) بنسبة تصل إلى 85%. وهو متاح بموجب ترخيص MIT ويهدف إلى تشغيل نماذج الذكاء الاصطناعي بشكل أسرع وأكثر كفاءة.
DSpark هو نظام فك تشفير تخميني يستخدم نموذجًا أوليًا صغيرًا لتوقع الرموز المحتملة للنموذج الكبير. يتيح ذلك للنموذج الكبير التحقق من عدة رموز في وقت واحد، مما يزيد السرعة. هذه التقنية أكثر كفاءة من التوليد التقليدي رمزًا برمز.
طبقت DeepSeek DSpark على أحدث نماذجها، DeepSeek-V4. تم اختباره على كل من V4-Flash (284 مليار معامل) وV4-Pro (1.6 تريليون معامل). أظهرت النتائج زيادة في السرعة لكل مستخدم بنسبة 60-85%.
لا يقتصر هذا الإطار على نماذج DeepSeek فقط. يمكن استخدامه مع نماذج مفتوحة الوزن أخرى مثل Qwen من Alibaba وGemma من Google. سيساعد ذلك المؤسسات على تسريع نماذجها.
مفهوم فك التشفير التخميني ليس جديدًا، لكن DSpark يجعله عمليًا. سيساعد في تقليل تكلفة نشر الذكاء الاصطناعي وتحسين تجربة المستخدم. أصدرت DeepSeek الورقة التقنية ونقاط تفتيش النموذج وقاعدة الأكواد على GitHub وHugging Face.
اسأل عن هذا الخبر
الإجابات من الذكاء الاصطناعي، من هذا الخبر فقط.
هذا ملخّص قصير مُنشأ بالذكاء الاصطناعي. الخبر الكامل موجود في المصدر.
اقرأ الخبر كاملًا من المصدرventurebeat.com