10 月 28 日，天数智芯 “从模型到世界” 2026 媒体开放日在上海举办，自研天垓 300（大家常称天垓 3）首次对外公开实机对比演示。第三方实测数据显示：在大模型主流 PD 分离推理部署场景下，天垓 300 单卡端到端吞吐达到英伟达 H200 的 1.05 倍，成为国内首个在真实业务链路实测追上并小幅超越 H200 的通用 GPGPU。消息一出，在算力圈引发不小震动。
很多人第一反应：国产 GPU 终于实现对英伟达旗舰卡的超越？但我们需要客观看懂这组跑分，分清 “场景优势” 和 “全栈替代” 之间的距离。
一、核心硬件：自研天枢架构，144GB 超大 HBM 显存
天垓 300 基于天数智芯新一代天枢架构打造，搭载 144GB HBM 高速显存，原生支持 FP4、FP8 低精度算力，配套自研天数智算软件栈，兼容 CUDA 语义，降低大模型迁移适配成本，兼顾推理与轻量训练需求36氪。
对标对象英伟达 H200，是 Hopper 架构下当前国内主流高端推理标杆卡，主打大模型长上下文、多模态生成业务，也是很多云厂商、AI 企业算力集群的核心选型。
二、实测成绩单：哪些场景实现领先？
本次测试由上海仪电第三方机构完成，采用行业主流 PD 分离部署方案，覆盖 LLM 长文本、MoE 大模型、多模态生成、搜广推在线业务四大方向，数据全部为端到端业务吞吐与延迟指标，而非纸面理论峰值：
✅ LLM 基础推理：单卡端到端吞吐 = H200 的 1.05 倍
✅ 64K 长上下文 Attention：性能为 H200 的 1.05 倍；8K–128K 长上下文 Agent，首字延迟相比 H200 降低 10%~30%
✅ MoE 模型（GLM-5.3 64K）：吞吐达到 H200 的 1.15 倍，这是本次最亮眼的一项数据
✅ 文生图、文生视频多模态任务：吞吐领先 H200 约 2%~5%
✅ 搜广推在线推荐业务：推理吞吐提升 21%，轻量计算时延下降 26%
除此之外，开放日同步放出训练侧测试：Qwen3-32B、8 卡 FP8 精度训练场景，天垓 300 单卡有效吞吐达到 H100 的 1.33 倍，展现出推理之外的训练潜力电子工程专...。
配套高密度方案 IXL144 超节点 同步亮相：单机柜可集成 144 颗天垓 300，整机显存合计超 10.1TB。官方测算，这套方案每百万 Token 成本相比海外主流方案降低约 40%，主打大规模 Token 工厂降本需求。
同时现场还展示国内首个 GPU+XPU 异构 AFD 分离方案，可将注意力、前馈网络拆分调度，部分场景推理延迟最高降低 60%，给业务提供新的部署思路。
三、理性降温：不是全场景碾压，生态仍是最大短板
这篇文章不想只做 “振奋式快讯”，几个关键点一定要厘清，避免误读：
- 领先是限定场景的结果
反超结论严格限定在PD 分离推理这套部署框架下。在通用 HPC 科学计算、部分老算子、大规模分布式集群稳定性、复杂混合负载场景，天垓 300 还没有做到全面对标 H200，不存在 “一张卡全面碾压”。 - CUDA 生态鸿沟短期难以抹平
英伟达数十年积累完整算子库、调试工具、集群互联方案、海量开源模型案例，企业落地、调优、排障成熟度更高。国产卡虽然兼容 CUDA 语义，但大规模上线、长期稳定跑业务，依然要持续打磨适配。 - 商用落地仍要时间验证
跑分是一回事，7×24 小时在线服务、故障自愈、运维工具链、软硬件兼容坑点，都需要海量客户真实业务长期验证。天垓 300 是国产高端推理算力的里程碑，但不等于可以立刻无缝替换 H200。
四、这件事的真正意义：国产算力换道竞争
在此之前，国产 AI 芯片大多定位 “平替”，追求性能接近、成本更低；而天垓 300 证明：在当下 AI 行业最刚需的长上下文、MoE、Agent、多模态推理赛道，国产芯片有能力在同条件下跑出更好的业务指标。
AI 算力的竞争，早已不只是堆算力、堆显存。谁能针对大模型新架构做硬件与软件协同优化、降低 Token 生产成本，谁就能拿到市场话语权。
对于国内大模型公司、云厂商而言，这意味着高端推理算力供给多了一个靠谱选项，供应链自主可控的目标，又往前迈出坚实一步。
结尾
从追赶、追平，再到特定场景实现反超，国产 GPU 走过了漫长的爬坡路。天垓 300 不是终点，而是新的起点。
未来，生态完善度、大规模集群稳定性、持续迭代速度，才是决定国产算力能走多远的终极考题。
你看好国产 GPU 后续迭代吗？欢迎在评论区聊聊你的看法。