以下是關於 DeepSeek-R1 模型的深度介紹，以及本地部署的 GPU 配置建議表格。
DeepSeek-R1 簡介
DeepSeek-R1 是一個專注於推理能力的生成式模型系列，通過大規模強化學習（RL）訓練完成，其核心設計與目標如下：
DeepSeek-R1-Zero：
- 僅通過 RL 訓練，無需監督微調（SFT）。
- 展現出強大的推理能力，例如自我驗證、反思和生成長鏈式推理（Chain-of-Thought, CoT）。
- 存在一些缺點，如無限重複、可讀性較差及語言混雜。
DeepSeek-R1：
- 在 RL 前加入冷啟動數據（SFT），改善語言質量和推理表現。
- 性能在數學、代碼和推理任務上達到與 OpenAI-o1 相當的水準。
- 開源了 DeepSeek-R1-Zero 和 DeepSeek-R1，以及基於 Llama 和 Qwen 的 6 個蒸餾模型。
DeepSeek-R1 系列特點：
- 大規模參數（671B 總參數），但通過激活參數優化計算（37B 激活參數）。
- 提供多種模型變體（1.5B 至 70B 參數）以支援不同硬體需求。
- 應用場景：數學推理、代碼生成、語言推理和多語言處理。
模型部署建議
DeepSeek-R1 系列模型所需顯存
下表列出不同參數規模模型的 GPU 顯存需求及適用場景：
| 模型名稱 | 總參數數量 | 激活參數 | 推薦顯存 (單 GPU) | 適用場景 |
|---|
| DeepSeek-R1-Zero / DeepSeek-R1 | 671B | 37B | ≥ 48GB (需多卡並行) | 最高效能需求，研究及產業應用 |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | - | ≥ 8GB | 初學者、低資源環境 |
| DeepSeek-R1-Distill-Qwen-7B | 7B | - | ≥ 16GB | 中小型應用 |
| DeepSeek-R1-Distill-Llama-8B | 8B | - | ≥ 16GB | 平衡效能與硬體需求 |
| DeepSeek-R1-Distill-Qwen-14B | 14B | - | ≥ 24GB | 中大型應用 |
| DeepSeek-R1-Distill-Qwen-32B | 32B | - | ≥ 48GB (單卡) | 高效能推理需求 |
| DeepSeek-R1-Distill-Llama-70B | 70B | - | ≥ 80GB (需多卡並行) | 極限推理效能需求 |
部署注意事項
軟體環境：
硬體配置：
- 多卡並行（Tensor Parallelism） 是運行大模型的必要選項。
- 高效能 GPU（如 A100 或 H100）更適合運行 32B 或以上規模的模型。
參數配置建議：
- 生成溫度設定為 0.5 至 0.7（推薦值：0.6）。
- 避免加入系統提示（System Prompt），將指令完全包含於用戶提示中。
- 數學問題建議在提示中加入逐步推理指令（如：「請逐步推理，並將答案置於 \boxed{}」）。
推薦選擇
- 資源有限：使用 DeepSeek-R1-Distill-Qwen-1.5B 或 7B。
- 資源中等：選擇 14B 或 32B，適合搭載單張 A100 的伺服器。
- 最高效能需求：使用 DeepSeek-R1 原始模型（671B），需多張 GPU 並行運行。
若有具體應用場景需求，請提供更多細節，我可以為您進一步調整建議！