腾讯 Hy4 preview 直接开源了：770B 参数、1M 上下文，内部盲测略胜 GLM-5.3 和 Kimi K3

AIGC资讯

2026-08-28浏览 601,668 字 · 约 6 分钟

…

目录一、从 295B 到 770B，Hy4 这一代明显做大了0%

腾讯新一代旗舰大模型 Hy4 preview，这次不只是上线：

权重也直接开源了。

8 月 28 日，腾讯混元正式发布 Hy4 preview。

核心规格非常猛：

770B 总参数

49B 激活参数

1M 上下文

而且腾讯给它的定位不是普通聊天模型，而是：

为真实生产力任务而生。

重点直接放在：

软件工程、复杂办公、游戏开发、科学研究。

一、从 295B 到 770B，Hy4 这一代明显做大了

Hy4 preview 采用 MoE 混合专家架构。

主干模型共有：

78 层

256 个路由专家

1 个共享专家

每个 Token 会激活：

Top-8 路由专家 + 共享专家。

相比 Hy3 的 295B 总参数、21B 激活参数，Hy4 preview 已经扩大到：

770B / 49B。

上下文也从 256K 进一步拉到了：

1M Token。

这明显是在为大型代码库、跨文件办公和长程 Agent 任务做准备。

二、重点不是聊天，而是“能不能把事情做完”

Hy4 preview 这一代最明确的关键词就是：

生产力。

腾讯直接和内部软件工程师、游戏开发者、金融分析师、安全专家等一起共建训练数据。

重点强化四类场景：

软件工程

加强长程开发任务中的：

理解、规划、调试、验证。

前端方面还专门提升了：

视觉审美和交互质量。

办公分析

强化数据分析、金融分析和跨文件协作，可以继续完成：

文档、表格、PPT

等最终交付。

游戏开发

一句自然语言需求可以直接生成可玩原型，并继续结合游戏引擎多轮修改。

科学研究

重点覆盖：

AI 研发、分子动力学、凝聚态物理、基础数学

等复杂科研场景。

可以看出来，Hy4 preview 想竞争的已经不是：

谁聊天更会说。

而是：

谁更适合塞进 Agent 真正干活。

三、内部盲测略胜 GLM-5.3 和 Kimi K3

这次腾讯还公布了一组比较有意思的真实任务测试。

由：

163 位腾讯内部专家

围绕：

203 个真实工程任务

进行匿名模型对比。

最终平均评分：

Hy4 preview：2.99 / 4

Kimi K3：2.94 / 4

GLM-5.3：2.92 / 4

其中对比 GLM-5.3：

Hy4 preview：

46.8% 胜

12.8% 平

40.4% 负

对比 Kimi K3：

51.2% 胜

7.9% 平

40.9% 负

所以更准确的说法是：

Hy4 preview 在腾讯内部真实工程任务盲测中略微领先 GLM-5.3 和 Kimi K3。

需要注意，这是腾讯内部评测，并不能直接等同于独立第三方总榜排名。

四、架构上也开始吸收 DeepSeek、GLM 的思路

Hy4 preview 的架构这次也挺有意思。

注意力机制使用：

Gated DeepSeek Sparse Attention，Gated DSA。

同时加入：

IndexCache

用于跨层复用稀疏索引。

残差路径则使用：

iHC，identity Hyper-Connections。

另外还原生加入一层 MTP：

10B 总参数、0.7B 激活参数

用于投机解码。

简单理解：

模型虽然规模继续变大，但腾讯也在想办法减少长上下文和实际推理时的计算压力。

这对于 1M Context 尤其重要。

五、甚至开始让模型自己优化模型

这次还有一个挺有意思的新玩法：

Hy4 preview 参与了自己的研发过程。

腾讯披露，模型已经用于：

训练方法优化；

数据策略；

评测体系；

底层算子。

它可以：

提出方案 → 运行实验 → 观察结果 → 继续修改。

Hy4 preview 还自行分析过推理系统瓶颈，并针对：

算子融合；

通信优化

等环节进行多轮修改。

最终相比基线：

端到端吞吐提升 31.8%。

这已经开始有点：

AI 帮忙造下一代 AI

的感觉了。

六、这次是真的开源，不只是开放 API

Hy4 preview 已经正式开放模型权重。

目前包括：

Hy4 preview

以及：

Hy4 preview-FP8。

权重已经上线：

Hugging Face；

ModelScope；

GitCode；

CNB。

许可证：

Apache 2.0。

官方同时提供：

vLLM；

SGLang；

微调；

量化

等部署与开发方案。

所以它不只是：

“可以调用腾讯 API。”

开发者是真的可以把模型拿下来，继续做：

私有部署；

研究；

微调；

量化；

Agent Harness。

七、不会部署，也已经可以直接用

普通用户不需要真的先准备一堆 GPU。

Hy4 preview 已经同步进入：

WorkBuddy

CodeBuddy

元宝

ima

等腾讯产品。

开发者则可以通过：

腾讯云 TokenHub

以及：

OpenRouter

调用 API。

OpenRouter 当前公开价格为：

输入：$0.834 / 1M Token

输出：$2.501 / 1M Token

缓存命中：$0.042 / 1M Token。

所以腾讯这次其实把三条路一起打通了：

普通用户
→ 腾讯产品直接用

开发者
→ API调用

企业 / 研究者
→ 开源权重自己部署

八、Preview 也意味着现在还不是最终版

腾讯自己也明确写了：

Hy4 preview 仍然属于：

Hy4 的早期版本。

目前已知问题包括：

复杂任务有时思考过长；

容易反复自我验证；

预训练和后训练仍有继续提升空间。

所以这次直接以 Preview + 开源方式放出来，也很明显是在复用 Hy3 的路线：

先让真实开发者用起来，再根据反馈快速迭代正式版。

结语

Hy4 preview 这次可以记住几个关键词：

770B 总参数。

49B 激活参数。

1M 上下文。

Apache 2.0 开源。

MoE + Gated DSA + IndexCache + iHC。

以及腾讯内部：

163 位专家 × 203 个真实工程任务

盲测中略微领先 GLM-5.3 和 Kimi K3。

但我觉得这次更值得看的，不只是：

“腾讯也做了一个 770B 大模型。”

而是模型竞争的验证方式正在变化。

以前大家最喜欢比：

参数多少；

跑分多少。

现在越来越开始直接看：

能不能写完代码。

能不能分析完几十个文件。

能不能真的交付 PPT 和表格。

能不能做出可玩的游戏。

能不能解决复杂科研问题。

Hy4 preview 这次直接把模型和 WorkBuddy、CodeBuddy 这类真实 Agent 产品一起打磨，又把权重开出来让整个社区继续测试。

大模型竞争正在从：

“参数有多大”

继续往：

“真实生产力到底有多强”

走。

腾讯 Hy4 preview 直接开源了：770B 参数、1M 上下文，内部盲测略胜 GLM-5.3 和 Kimi K3

一、从 295B 到 770B，Hy4 这一代明显做大了

二、重点不是聊天，而是“能不能把事情做完”

软件工程

办公分析

游戏开发

科学研究

三、内部盲测略胜 GLM-5.3 和 Kimi K3

四、架构上也开始吸收 DeepSeek、GLM 的思路

五、甚至开始让模型自己优化模型

六、这次是真的开源，不只是开放 API

七、不会部署，也已经可以直接用

八、Preview 也意味着现在还不是最终版

结语

相关链接

Hy4 preview 官方介绍

腾讯 Hy4 preview 官方发布信息

Hy4 preview GitHub

Hy4 preview Hugging Face

Hy4 preview FP8

Hy4 preview ModelScope

OpenRouter Hy4 preview

腾讯云 TokenHub

评论 0

推荐阅读