腾讯混元 Hy3 深度解析:295B MoE、快慢思考融合、Agent 能力跃升
2026 年 4 月 23 日,腾讯混元发布并开源 Hy3 preview;7 月 6 日正式版(GA)上线,Agent 任务解决率跃升至 90%,ClawEval pass³ 拿到 68.5,超过 DeepSeek V4 Pro 的 62.4。本文围绕架构、创新点、性能表现和差异化四个维度,做一次系统梳理。
一、背景:混元重建与 Hy3 的诞生
2025 年 12 月,前 OpenAI 研究员姚顺雨(清华姚班、普林斯顿 CS 博士,ReAct / Tree of Thoughts 作者)空降腾讯,任 CEO/总裁办公室首席 AI 科学家,兼任 AI Infra 部与大语言模型部负责人。
他主导的节奏非常快:
- 2026 年 2 月:重建预训练与强化学习基础设施,定下"能力体系化 / 评测真实性 / 性价比"三条实用性原则
- 2026 年 4 月 23 日:发布 Hy3 preview 并开源(GitHub、Hugging Face、ModelScope)
- 2026 年 5 月 13 日:腾讯一季报披露,Hy3 preview 自 4 月 28 日上线以来,OpenRouter 调用量连续多周登顶
- 2026 年 7 月 6 日:Hy3 正式版上线 WorkBuddy,首发两周免费
三条原则中最值得专门拎出来说的是能力体系化——混元明确表示不推崇"偏科",即使是代码智能体这一个应用也涉及推理、长文、指令、对话、工具等多种能力的深度协同。这跟过去混元"榜单刷分"的路线完全不同,也是 Hy3 看起来"什么都强"的原因。
二、架构与核心创新:快慢思考融合到单模型
Hy3 的核心架构参数(来自官方 GitHub README):
| 项目 | 数值 |
|---|---|
| 总参数 / 激活参数 | 295B / 21B |
| MTP 层参数 | 3.8B |
| 层数 | 80 + 1(MTP) |
| 注意力 | 64 Q 头 / 8 KV 头(GQA),head dim 128 |
| 隐藏 / 中间维度 | 4096 / 13312 |
| 上下文 / 词表 | 256K / 120832 |
| 专家 | 192 个,top-8 激活 |
| 精度 | BF16 |
几个关键设计:
- 192 专家 / top-8 激活:相比 Kimi-K2(384 专家 / top-8)、DeepSeek-V3(256 专家 / top-8),Hy3 走"少而精"路线
- 3.8B MTP 层:vLLM 部署可开启投机解码,吞吐比普通 dense 模型高一个量级
- GQA(64Q / 8KV):256K 长上下文下 KV cache 压缩到原来的 1/8
但 Hy3 真正的差异化是推理机制——把"快慢思考"融合到同一个模型权重里,用 reasoning_effort 参数控制:
extra_body={"chat_template_kwargs": {"reasoning_effort": "high"}}no_think:默认直接回答low:轻度思考high:深度 CoT
这跟 Qwen3 的"用户手动切 thinking 模式"、DeepSeek 的"独立 R1 思考模型"都不一样——一个模型覆盖两种推理预算,部署和成本都更友好。
三、性能表现:小激活参数打平大模型
预训练基模对比(官方 README 数据):
| Benchmark | Hy3 preview-Base | Kimi-K2 BASE | DeepSeek-V3 BASE | GLM-4.5 BASE |
|---|---|---|---|---|
| 总参 / 激活 | 295B / 21B | 1043B / 32B | 671B / 37B | 355B / 32B |
| MMLU-Pro | 65.76 | 65.98 | 63.98 | 63.67 |
| LiveCodeBench-v6 | 34.86 | 30.86 | 29.31 | 27.43 |
| GSM8K | 95.37 | 93.46 | 88.15 | 90.06 |
| MATH | 76.28 | 71.20 | 59.37 | 61.00 |
| CMath | 91.17 | 90.83 | 85.50 | 89.33 |
| MMMLU | 80.15 | 77.63 | 79.54 | 79.26 |
Hy3 总参数只有 DeepSeek-V3 的 44%、Kimi-K2 的 28%,激活参数少 30%~40%,但 MATH、GSM8K、LiveCodeBench 等核心基准全部拿下第一。
Agent 能力(Hy3 正式版):
| 基准 | Hy3 正式版 | DeepSeek V4 Pro |
|---|---|---|
| ClawEval pass³ | 68.5 | 62.4 |
| SkillsBench | 55.3 | — |
| Agent 任务解决率 | 90% | — |
ClawEval 是腾讯自研的 Agent 评测,模拟"多轮工具调用 + 长程任务规划"。Hy3 在真实业务场景里领先 6 个绝对百分点。
业务侧落地(preview 数据,正式版"Agent 和 Coding 大幅跃升"但未公开具体数字):
- WorkBuddy(preview 数据):首次响应 +54%、任务完成时间 -47%、成功率 99.99%
- OpenRouter:Hy3 preview 连续多周 token 消耗第一
- 全栈部署:腾讯云、CodeBuddy、WorkBuddy、元宝、QQ、腾讯文档、ima
四、横向对比与差异化
把 Hy3 放到 2026 年国产开源旗舰里横向看:
| 维度 | Hy3 正式版 | DeepSeek-V4 Pro | Kimi-K2 |
|---|---|---|---|
| 总参数 | 295B | 1.6T | 1043B |
| 激活参数 | 21B | 49B | 32B |
| 上下文 | 256K | 1M | 128K |
| 架构 | MoE + MTP | MoE + MTP(DSA 稀疏注意力) | MoE |
| 思考模式 | 单模型融合(reasoning_effort) | 双模型切换 | 单一 |
| 输入价 | 1 元/M(基础档) | 约 2 元/M | 约 4 元/M |
| 开源 | ✅ | ✅ | ✅ |
注:Hy3 实际按输入长度分三档(<16k / 16k-32k / 32k+),最便宜档 1 元/M,最贵档 2 元/M;缓存命中 0.25-0.8 元/M;输出 4-8 元/M。腾讯对外统一口径是"输入 1 元、输出 4 元、缓存 0.25 元"。
几个有意思的差异:
- Hy3 比 Kimi-K2 小一个数量级,效果却更强:Kimi-K2 走"大而全"路线(1043B),Hy3 用 295B 就打出更强的 Agent 能力——激活效率比总参数更重要
- Hy3 是唯一把"快慢思考融合"做成单模型的:其他几家要么独立思考模型(DeepSeek R1 系),要么用户手动切模式(Qwen3)。Hy3 的"一个权重 + 三档 effort"是部署创新
- Hy3 价格更激进:基础档 1 元/M 比 DeepSeek-V4 Pro(约 2 元)低,配合 OpenRouter,对中小开发者和 Agent 类应用非常友好
- 上下文不是最长:256K 比不上 DeepSeek-V4 Pro 的 1M。Hy3 的思路是"真实业务 256K 已够用",不堆参数
一句话总结:Hy3 用更少的总参数和激活参数,把"基础能力 + Agent 能力 + 性价比"三件事同时做到第一梯队。这也是姚顺雨带给混元最大的改变——从"刷榜型选手"变成"业务能落地"的工程化模型。
参考链接
- 官方 GitHub:https://github.com/Tencent-Hunyuan/Hy3-preview
- Hugging Face:https://huggingface.co/tencent/Hy3-preview
- 官方介绍页:https://hunyuan.tencent.com/