डीपसीक ने एक नया ओपन-सोर्स फ्रेमवर्क, DSpark जारी किया है, जो बड़े भाषा मॉडल (LLM) के अनुमान को 85% तक तेज कर सकता है। यह MIT लाइसेंस के तहत उपलब्ध है और इसका उद्देश्य AI मॉडल को तेजी से और कुशलता से चलाना है।
DSpark एक स्पेक्युलेटिव डिकोडिंग सिस्टम है, जो एक छोटे ड्राफ्ट मॉडल का उपयोग करके बड़े मॉडल के लिए संभावित टोकन का अनुमान लगाता है। इससे बड़ा मॉडल एक साथ कई टोकन की जांच कर सकता है, जिससे गति बढ़ जाती है। यह तकनीक पारंपरिक टोकन-दर-टोकन जनरेशन की तुलना में अधिक कुशल है।
डीपसीक ने DSpark को अपने नवीनतम मॉडल, DeepSeek-V4 पर लागू किया है। V4-Flash (284 बिलियन पैरामीटर) और V4-Pro (1.6 ट्रिलियन पैरामीटर) दोनों पर परीक्षण किए गए। परिणामों में प्रति-उपयोगकर्ता गति में 60-85% तक की वृद्धि देखी गई।
यह फ्रेमवर्क केवल DeepSeek मॉडल तक सीमित नहीं है। इसका उपयोग Alibaba के Qwen और Google के Gemma जैसे अन्य ओपन-वेट मॉडल के साथ भी किया जा सकता है। इससे उद्यमों को अपने मॉडल को तेज करने में मदद मिलेगी।
स्पेक्युलेटिव डिकोडिंग की अवधारणा नई नहीं है, लेकिन DSpark इसे व्यावहारिक बनाता है। यह AI तैनाती की लागत को कम करने और उपयोगकर्ता अनुभव को बेहतर बनाने में मदद करेगा। डीपसीक ने तकनीकी पेपर, मॉडल चेकपॉइंट और कोडबेस GitHub और Hugging Face पर जारी किया है।
इस खबर के बारे में पूछें
उत्तर केवल इस खबर से AI द्वारा।
यह एआई द्वारा बनाया गया संक्षिप्त सारांश है। पूरी खबर स्रोत पर है।
स्रोत पर पूरी खबर पढ़ेंventurebeat.com