中国のオープンソースAI企業DeepSeekは、大規模言語モデル（LLM）の推論を高速化する新しいフレームワーク「DSpark」をMITライセンスで公開しました。DSparkは投機的デコード技術を採用し、軽量なドラフトモデルが複数のトークンを予測し、メインモデルが並行して検証することで、応答品質を変えずに生成速度を向上させます。DeepSeek-V4-FlashおよびDeepSeek-V4-Proでのテストでは、ユーザーあたりの生成速度が従来比57%～85%向上しました。
フレームワークには技術論文、モデルチェックポイント、投機的デコードシステムのトレーニング・評価用コードベース「DeepSpec」が含まれています。GitHubとHugging Faceで公開されており、AlibabaのQwenやGoogleのGemmaなど他のオープンモデルファミリーにも適用可能です。これにより、開発者や研究者は自社のモデルにDSparkを適応させることができます。
投機的デコードは、LLMがトークンを逐次生成するボトルネックを解消します。従来の方法では、モデルは各トークンを一つずつ生成する必要がありましたが、DSparkではドラフトモデルが複数の候補を提案し、メインモデルが一度に検証するため、大幅な高速化が可能です。特に高負荷時には、システム全体のスループットが向上します。
DeepSeekはDSparkを自社の最先端モデルに適用しました。DeepSeek-V4-Flash（2840億パラメータ、130億アクティブ）とDeepSeek-V4-Pro（1.6兆パラメータ、490億アクティブ）は、いずれも100万トークンのコンテキストウィンドウをサポートします。テストでは、特定の速度目標下でDSparkが従来のMTP-1ベースラインよりもはるかに多くの同時リクエストを処理できることが示されました。
DSparkの意義はDeepSeek単独にとどまりません。オープンライセンスと他モデルとの互換性により、LLMのデプロイコスト削減とAIの実用化促進に貢献します。チャットボット、コーディングアシスタント、エンタープライズAIなど、リアルタイム応答が求められる分野での活用が期待されます。
この記事について質問
回答はこの記事のみからAIが生成します。