（接上条）DeepSeek V3 模型的效果之好、训练成本之低，令人震惊，引起了国际轰动。 它的开发者是杭州的量化基金公司幻方量化，创始人梁文锋。 西方媒体对梁文锋非常好奇，将他过去的中文访谈译成了英文。 我觉得这些访谈很值得一读，做了一点摘录。ruanyifeng.com/blog/2025/01/w…
DeepSeek V3とは？
DeepSeek V3は、DeepSeekによって開発された大規模言語モデル（LLM）です。これはMoEモデルであり、効率的な処理のためにトークンごとに370億のパラメータをアクティブ化します。14.8兆トークンという膨大なデータで事前学習されており、コスト効率を維持しながら、トップクラスのクローズドソースモデルのパフォーマンスに匹敵します。
DeepSeek V3の主な特徴
DeepSeek V3は、優れたパフォーマンスを実現するための高度なアーキテクチャとトレーニング技術を誇ります。
マルチヘッド潜在的アテンション（MLA）とDeepSeekMoE
MLAとDeepSeekMoEアーキテクチャを利用して、効率とパフォーマンスを向上させます。
効率的なトレーニング
FP8混合精度トレーニングとアルゴリズム-フレームワーク-ハードウェア協調設計を採用し、効率的なクロスノードMoEトレーニングを実現します。また、マルチトークン予測も使用します。
安定したトレーニングプロセス
トレーニングプロセスは安定しており、278.8万H800 GPU時間を要しました。
DeepSeek V3の利点
DeepSeek V3は、強力なパフォーマンス、幅広い機能、柔軟なデプロイオプションを提供します。
高性能
他のオープンソースモデルを凌駕し、数学、コーディング、推論、多言語タスクなど、さまざまなベンチマークで主要なクローズドソースモデル（GPT-4oやClaude-3.5-Sonnetなど）に匹敵します。
多用途な機能性
コード生成と変更、ウェブ検索、複雑な問題解決、翻訳、エッセイ作成が可能です。
柔軟なデプロイ
NVIDIA GPU、AMD GPU、Huawei Ascend NPUを使用したデプロイをサポートし、SGLang、LMDeploy、TensorRT-LLM、vLLMなどの複数のフレームワークオプションを提供します。FP8およびBF16推論をサポートします。
X.comでDeepSeek V3を発見
DeepSeek V3を体験し、X.comであなたの考えを共有しましょう！
