什麼是 DeepSeek V3？
DeepSeek V3 是由 DeepSeek 開發的大型語言模型 (LLM)。它是一個 MoE 模型，每個權杖啟用 370 億個參數以實現高效處理。它在龐大的 14.8 兆個權杖上進行了預先訓練，其效能可與頂級的封閉原始碼模型相媲美，同時保持成本效益。
DeepSeek V3 的核心功能
DeepSeek V3 擁有先進的架構和訓練技術，可提供卓越的效能。
多頭潛在注意力 (MLA) 和 DeepSeekMoE
利用 MLA 和 DeepSeekMoE 架構來提高效率和效能。
高效訓練
採用 FP8 混合精度訓練和演算法-框架-硬體協同設計，以實現高效的跨節點 MoE 訓練。同時也使用多權杖預測。
穩定的訓練過程
訓練過程穩定，需要 278.8 萬個 H800 GPU 小時。
DeepSeek V3 的優勢
DeepSeek V3 提供強大的效能、廣泛的功能和靈活的部署選項。
高效能
在數學、程式設計、推理和多語言任務等各種基準測試中，其效能優於其他開放原始碼模型，並可與領先的封閉原始碼模型（如 GPT-4o 和 Claude-3.5-Sonnet）相媲美。
多功能性
能夠進行程式碼生成和修改、網路搜尋、複雜問題解決、翻譯和論文寫作。
靈活部署
支援使用 NVIDIA GPU、AMD GPU 和華為昇騰 NPU 進行部署，並提供多種框架選項，如 SGLang、LMDeploy、TensorRT-LLM 和 vLLM。支援 FP8 和 BF16 推理。
