什么是 DeepSeek?
DeepSeek 是由深度求索(DeepSeek)推出的一系列开源大语言模型,涵盖多个参数规模版本,适用于不同硬件环境和应用场景。
DeepSeek 模型大小对比
| 模型名称 | 参数量 | FP16 文件大小 | INT4 量化后大小 | 推荐显存 |
|---|---|---|---|---|
| DeepSeek-Coder-1.3B | 13 亿 | ~2.6 GB | ~0.7 GB | ≥4 GB |
| DeepSeek-Coder-6.7B | 67 亿 | ~13 GB | ~3.5 GB | ≥16 GB |
| DeepSeek-MoE-16B | 160 亿(稀疏激活) | ~30 GB | ~8 GB | ≥24 GB |
| DeepSeek-VL-7B | 70 亿(多模态) | ~14 GB | ~4 GB | ≥16 GB |
注:实际文件大小可能因版本、格式(如 GGUF、AWQ、GPTQ)略有差异。
如何选择合适版本?
如果你在普通笔记本或消费级 GPU 上运行,建议选择 1.3B 或 6.7B 的 INT4 量化版本;若用于专业开发或服务器部署,可考虑完整精度的 16B MoE 架构模型以获得更强性能。