十万元人民币以内 DeepSeek V4 Flash 0731 最强自建方案排行榜

截至 2026 年 8 月 7 日，DeepSeek‑V4‑Flash‑0731 的正式开放权重仍采用约 284B 总参数、13B 激活参数、FP4/FP8 混合精度和 1M token 上下文；官方原始权重下载体积约 160–167GB，因此“总内存够大”只是最低门槛，真正决定可用性的还包括量化格式、KV cache 压缩、MoE 专家调度、卡间互联和专用内核。

在 整套硬件含税/渠道落地不超过 100,000 元 的严格条件下，本报告的结论是：

2× DGX Spark 是本次唯一明确的“十万元内、正式 0731、完整 1M、可做多用户 API”的首选。 当前社区 TP=2、DSpark、NVFP4 KV 路线在 1M 配置下报告了约 55 tok/s 典型单流、66 tok/s 峰值；针对短至中等活跃上下文的持续批处理，双 Spark 的公开测试曾达到约 253 tok/s@8 并发、315 tok/s@16 并发，优化版本在较低并发也出现过约 340 tok/s aggregate。由于这些测试使用的软件补丁、上下文长度和请求到达模式不同，不应把 340 tok/s 理解为“32 个各自装满 1M 上下文的会话”。

R9700 + Strix Halo 是最有潜力的追赶者，但不是当前最稳的生产选择。 Lucebox 使用 32GB R9700 承担密集层、热点专家和 DSpark draft，128GB Strix Halo 存放其余专家，短上下文单流达到 51.1 tok/s；但公开测试主要覆盖 2K–16K，上下文扩展到 1M 时，KV 所在设备、PCIe 往返、连续批处理和 ROCm 内核稳定性仍缺少公开验证。

H100、H200、H20、Atlas 300I A2 的问题不是芯片本身弱，而是十万元预算无法同时买到足够的高速显存和正确的多卡互联。单张 H100/H20/RTX PRO 6000 都放不下原始模型；双 H100 通常整机超预算；单 H200 当前国内参考价约 28.2 万元；八张 Atlas 300I A2 即使按非常乐观的非公开渠道价计算，也远超十万元，并且 300I A2 PCIe 拼装没有 Atlas 800 A2 的 HCCS 全互联和官方 V4 部署路径。

方法论、假设与限制

评估口径

本报告将“能部署”分为四个层级：

吞吐表中的 8/16/32 并发指服务器被配置为允许 max_model_len=1,048,576，但每个活跃请求的典型实时上下文为约 8K–32K，而不是每个请求都已经占满 1M token。完整的 1M 深度并发由单独的“1M 满深度会话数”表示。若同时维持 8 个完整 1M 会话，仅 KV cache 就可能需要约 40–77GiB；32 个完整 1M 会话则可能需要约 154–308GiB，远超绝大多数十万元级方案的权重加载后余量。vLLM 对 V4 的公开分析给出约 9.62GiB/条 1M BF16 KV，FP8/低精度缓存可约减半；实际双 Spark NVFP4 路线测得的有效占用约为每条 1M 需要 7–8GiB，说明运行时元数据、对齐和实现差异不可忽略。

价格和成本假设

价格采用截至 2026 年 8 月上旬的官方 MSRP、公开渠道行情与二手市场报价，并做以下统一假设：

DGX Spark 官方 MSRP 已在 2026 年 2 月由 3,999 美元上调至 4,699 美元；国内公开报道将涨价后价格描述为接近 4 万元，因此本报告采用单台 3.8–4.6 万元、双台连线后 7.8–9.2 万元。

二手 H100 的低价可能来自海外拆机、无保修板卡、工程样品或仅 GPU 模组，不等同于可直接装入普通 PCIe 服务器的零售卡。本报告采用单卡约 4.2–5.5 万元、完整单卡主机 6–8.5 万元的乐观估算；双卡完整主机通常超过 10 万元。H200 国内近期公开平台参考价约 28.2 万元/张，因此不属于本报告预算内候选。

Atlas 300I A2 的公开价格信息差异特别大：部分非正式渠道声称 3–4 万元，而中关村在线 2026 年 4 月展示的市场参考价为 129,800 元且实际“价格面议”。因此对该卡只能使用宽区间，不能把低价自媒体报价当成可交付的采购合同。

Benchmark 限制

不同测试在量化、draft 模型、提示长度、输出长度、CUDA graph、连续批处理、prefix cache 和采样设置上并不一致。双 RTX PRO 6000 的 210 tok/s 单流与约 700 tok/s 多流结果使用原始权重、262K 上下文和特定 Blackwell vLLM 分支；Lucebox 的 51.1 tok/s 使用 102.3GB ROCmFPX 权重、四专家路由和约 2K 提示；单 Spark 的 59 tok/s 是十二个并发请求的 aggregate，而不是单请求速度。它们只能用于工程量级判断，不能视为严格同条件横评。

候选硬件与关键规格

预算内及预算边缘方案

DGX Spark 官方规格为 128GB LPDDR5X、273GB/s、ConnectX‑7 200Gbps 和 140W GB10 TDP；官方还确认双节点可把可用总内存从 128GB 扩展至 256GB。

R9700 官方规格为 32GB GDDR6、640GB/s、300W；Strix Halo 平台支持 128GB LPDDR5X，AMD 通常允许其中约 96–112GB 配置给 GPU。由于二者是分离内存池，不能像单一 160GB HBM 一样随意分配，Lucebox 必须通过不对称专家并行主动决定哪些专家位于哪一侧。

RTX PRO 6000 Blackwell 工作站版拥有 96GB GDDR7 ECC、1,792GB/s 带宽和 600W 最大板卡功耗；2026 年 8 月美国官方/渠道价格已约 11,360–13,250 美元，意味着完整新机在中国市场通常超过十万元。

H100 的高带宽不能解决容量问题。NVIDIA H100 SXM 为 80GB、3.35TB/s，H100 NVL 为 94GB、3.9TB/s；两者分别可提供最高 900GB/s 和 600GB/s NVLink，但低价二手 H100 PCIe 通常不能等同于完整 NVL/HGX 互联系统。

华为 Atlas 300I A2 64GB 的官方规格为 1.6TB/s、280TFLOPS FP16、560TOPS INT8 和 350W。其单卡规格很强，但 vLLM‑Ascend 的 DeepSeek‑V4‑Flash 官方指南针对的是 Atlas 800 A2 8×64GB 和 Atlas 800 A3 8×128GB，并未把八张独立 300I A2 PCIe 卡列为等价拓扑。

超预算或条件性方案

H200 官方规格为 141GB HBM3e 和 4.8TB/s；国内公开平台 2026 年 7 月参考价格约 282,000 元，因此“二手单 H200 十万元以内”不应作为正常采购假设。

H20 公开规格通常为 96GB HBM3、约 4TB/s、400W 和较低的 Hopper 算力。它的优势是带宽和中国市场生态，而不是单卡容量；公开的双 H20 0731 部署记录还曾出现实际 KV 字节数高于预期、最大上下文仅约 121K 的问题，因此不能根据 192GB 总 HBM 直接断言可以稳定运行 1M。

双 RTX PRO 6000 的公开 benchmark 说明 RTX Blackwell 路线具有很高潜力：原始约 160GB 权重在 2×96GB 上实现约 210 tok/s 单流、约 700 tok/s@10，并使用 FP8 KV 支持 262K；但两张卡本身已明显超过十万元，而且无 NVLink，依赖特定 sm_120a 内核和 PCIe 感知的 NCCL 调优。

上下文、并发与吞吐估算

一百万上下文容量

单 Spark 的当前社区实现报告了 517,963 token 在 667 秒完成 prefill、约 28 tok/s 的 12K 对话解码、约 22 tok/s 的 240K 解码、十二并发合计 59 tok/s，并明确测试了单会话 1M 和裸服务 1.2M。

双 Spark 的 0731 路线使用 TP=2、DSpark 和实验性 NVFP4 KV；修复 DSpark 权重加载后，1M 配置的平均单流从约 32.7 tok/s 提升到约 55.4 tok/s，峰值约 66.1 tok/s。该提升依赖社区补丁，未打补丁时吞吐可能接近减半。

多并发 aggregate tokens/s

下表给出的是工程估算区间。双/单 Spark 以公开实测为锚点；其他方案主要依据单流测试、带宽、权重放置和类似硬件扩展效率外推。带 † 的数字不代表存在相同条件下的公开 benchmark。

双 Spark 在不同软件版本中存在较大离散：较早的完整 1M 配置报告过约 67 tok/s 单流和约 182 tok/s 六并发；200K profile 报告过约 253 tok/s@8 和 315 tok/s@16；更新的 CUDA graph/连续批处理配置在六并发附近报告过约 340 tok/s。报告中的区间采取保守折中，而不是选择最高数字。

Lucebox 的 51.1 tok/s 是约 2K 输入、128 token 输出的单流中位数；上下文由 2K 增长到 16K 时，速度从约 51.0 降至 42.9 tok/s。当前没有公开的 8/16/32 连续批处理数据，因此表中多并发值只是一种“软件能够实现较好 batching”条件下的潜力估算。

图中的 DGX Spark 曲线由公开实测锚定；R9700+Strix Halo、单 RTX PRO 6000 和单 H100 曲线为本报告的工程外推，不应作为厂商承诺或采购验收指标。

成本、功耗与单位 token 经济性

计算模型

本报告使用：

该口径假设机器平均有 60% 时间按 16 并发中位吞吐生成 token。它没有计算输入 prefill token、制冷 PUE、维修、工程师、网络、融资成本和质量损失。实际利用率只有 20% 时，单位 token 成本大致会升至表中约三倍。

成本和能效结果

这些数字揭示了一个容易被忽视的结果：双 Spark 不只是购买成本低，其多请求能效也可能优于单 Spark。 双机增加了约一倍内存和功耗，但在批处理下 aggregate throughput 可增加约五倍，因此折旧、电费和 W/tok/s 都更好。前提是业务真的有足够并发，使第二台机器不长期闲置。双 Spark 的单请求提升没有这么大，单流通常只是从单 Spark 的约 22–35 tok/s 提升到约 55–66 tok/s。

R9700 + Strix Halo 的成本结果看起来接近双 Spark，但这是低置信度值：已公开的 51.1 tok/s 是单流，不是连续批处理；若实际 16 并发只能做到 70 tok/s，其单位 token 成本将由约 6.1 元升至约 11.4 元。

单 H100 的单位 token 成本反而很差，因为模型无法完整放在 80GB HBM 中，PCIe/CPU offload 使昂贵 HBM 和 Tensor Core 无法持续饱和。对于本模型，容量不足时，算力和 HBM 带宽不能替代容量。

图中水平虚线是十万元预算上限。单 H200、双 H100/H20、异构 H100+H20 和八卡 300I A2 均不属于严格预算内方案；单 RTX PRO 6000 只有在已有主机、二手成交或特殊渠道下才可能压线。

即使双 Spark 的本地输出 token 成本估算约为 3–4 元/百万，它也未必比 DeepSeek 官方 API 便宜。自建的主要价值是数据不出域、离线可用、固定延迟、模型可修改、无外部限流和可建立内部 prefix cache，而不是单纯击败官方边际 token 价格。官方 API 定价若继续维持低位，中低利用率用户很难从纯财务角度收回硬件。

综合排名与采购部署建议

严格十万元内综合排名

条件性和淘汰结论

双二手 H100只有在已经拥有兼容双卡服务器、能以极低价格获得两张经过完整检测的 PCIe H100，并接受量化权重时，才可能接近十万元。即使卡价压到预算内，散热、电源、PCIe 拓扑和售后仍可能让整机越界。

单或双 H200是性能方案，不是十万元性价比方案。单 H200 虽有 141GB HBM3e，仍不足以无压缩容纳原始 160–167GB 权重；双 H200 很强，但价格约相当于六到七套双 Spark。

H100 + H20 异构组合应直接排除。 vLLM 的常规 tensor parallel 假定参与设备具有相近算力、kernel、显存和通信特征；H100 与 H20 混用会导致慢卡同步、显存分片不均和 kernel 选择复杂。除非自行开发 expert placement 和异构调度器，否则它不会自然获得“两个 GPU 优点相加”的结果。

八张 Atlas 300I A2 PCIe 拼装不等于 Atlas 800I A2。 前者跨卡 MoE 流量要穿过 PCIe switch/CPU，后者是华为为多 NPU 设计的整机互联拓扑。即使八张卡提供 512GB HBM，采购价、3kW 以上功耗、服务器底盘和 CANN 调优都会使其远离十万元目标。vLLM‑Ascend 的官方 V4 路线应以 Atlas 800 A2/A3 文档为准。

推荐采购配置

对于本地私有 API 和 8–32 个并发 Agent，推荐配置为：

双 Spark 的 1M 路线当前仍依赖社区 NVFP4 KV 和 DSpark 补丁，因此采购验收不能只检查“模型能启动”。至少应验证连续运行、冷启动、长提示 prefill、多个独立请求交错到达、prefix cache 命中、节点断连恢复和输出质量。社区记录显示 0731 在未修复 draft 权重加载时仍能给出正确输出，但 speculative acceptance 和速度会显著下降。

简要部署拓扑

最终采购决策

预算 4–5 万元：买一台 DGX Spark。 它是最低成本、已有 0731 单机 1M 验证、维护风险最小的选择；适合个人和少量用户，但不要期待高并发下接近双机吞吐。

预算 8–10 万元：买两台 DGX Spark，并把 200Gbps 互联线、税费和备用散热空间一起计入预算。 这是本报告的明确第一名，也是当前十万元内唯一同时满足容量、1M、并发吞吐和软件成熟度的方案。

追求中短上下文单流速度并愿意开发内核：考虑 R9700 + Strix Halo。 在公开短上下文测试中，它的 51.1 tok/s 非常有竞争力，但采购前必须要求供应商现场运行 0731、至少 256K/512K 长上下文以及连续批处理；不能仅凭 2K prompt benchmark 接受“完整 1M 生产可用”的承诺。

不要专门为 V4 Flash 0731 购买单张 H100、H20、RTX PRO 6000 或 Atlas 300I A2。 它们都落入“算力很强但容量不足”的陷阱。若已经拥有这些卡，可以尝试 Q2/FP4 和 CPU offload；若从零采购，双 Spark 更符合该模型的实际内存结构。

主要参考来源