DeepSeek · 685B (37B active) · Mezcla de expertos
State-of-the-art MoE — 37B active params Comprueba si tu GPU o Mac puede ejecutar DeepSeek V3.2 localmente — 382.8 GB mínimo, 638 GB recomendado.
Mezcla de expertos
| Cuant | Bits | VRAM | Calidad | Estado |
|---|---|---|---|---|
| Q2_K | 2 | 219.8 GB | low | — |
| Q3_K_M | 3 | 307.5 GB | moderate | — |
| Q4_K_M | 4 | 351.4 GB | good | — |
| Q5_K_M | 5 | 439.1 GB | good | — |
| Q6_K | 6 | 526.8 GB | excellent | — |
| Q8_0 | 8 | 702.3 GB | excellent | — |
| F16 | 16 | 1404 GB | lossless | — |
Sobre este modelo
DeepSeek-V3.2 is a model that harmonizes high computational efficiency with superior reasoning and agent performance. Our approach is built upon three key technical breakthroughs:
DeepSeek Sparse Attention (DSA): an efficient attention mechanism that substantially reduces computational complexity while preserving model performance, specifically optimized for long-context scenarios.
Scalable Reinforcement Learning Framework: By implementing a robust RL protocol and scaling post-training compute, DeepSeek-V3.2 performs comparably to GPT-5.
Large-Scale Agentic Task Synthesis Pipeline: To integrate reasoning into tool-use scenarios, [DeepSeek team] developed a novel synthesis pipeline that systematically generates training data at scale. This facilitates scalable agentic post-training, improving compliance and generalization in complex interactive environments.
Reference
DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models
¿Puedo ejecutar DeepSeek V3.2 localmente?
- ¿Puedo ejecutar DeepSeek V3.2 localmente?
- DeepSeek V3.2 necesita alrededor de 382.8 GB de memoria como mínimo y 638 GB recomendados. Abre esta página para evaluarlo con tu GPU o Mac, y luego ejecútalo con runai, Ollama o LM Studio.
- ¿Cuánta VRAM necesita DeepSeek V3.2?
- En Q4_K_M, DeepSeek V3.2 usa aproximadamente 351.4 GB de VRAM. Cuantizaciones más altas necesitan más memoria; las más bajas caben en tarjetas más ajustadas con una pérdida de calidad.