推荐UIED 一站式 AI 设计平台推荐一人企业Vibe Coding社区!热门免费AI设计工具新品免费AI编程工具 Trae - 智能编码助手Seedance2.5已上线新用户注册即领免费算力

腾讯混元Hy4 Flash正式开源:224B参数、百万Token上下文,三大版本免费下载

腾讯混元这次真把大模型权重放出来了!

11月18日,腾讯混元正式宣布开源Hy4 Flash系列模型,一次性开放标准版、FP8量化版和Base预训练版三大版本。

开发者已经可以通过GitHub获取项目代码和部署资料,并在Hugging Face、ModelScope和GitCode下载模型权重。

此前,Hy4 Flash于11月16日正式发布,主打高性价比与日常生产力任务,在模型参数、推理效率和API价格方面进行了多项优化。

如今,随着模型权重正式开放,开发者不仅能够通过腾讯云API使用,还可以根据自己的硬件环境进行部署、微调和二次开发。

224B总参数、12B激活参数、百万Token上下文,再加上更低的推理成本,腾讯这次瞄准的是让大模型真正进入更多开发场景。

image.png

腾讯混元官方GitHub仓库:


https://github.com/Tencent-Hunyuan/Hy4-flash

01|一口气开放三个版本,开发者可以按需求选择

这次Hy4 Flash开源,并不是简单放出一份模型权重,而是针对不同开发需求提供了三个版本。

Hy4 Flash标准版

这是经过指令微调的完整模型,支持文本、图像理解、推理与工具调用等能力。

适合希望自行部署AI助手、企业知识库和Agent应用的开发团队。

Hy4 Flash-FP8量化版

采用FP8精度,主要面向希望降低模型权重存储与推理资源开销的开发者。

相比标准精度版本,FP8能够减少部分资源需求,但实际部署仍然需要较强的GPU算力。

Hy4 Flash-Base预训练版

Base版本主要面向研究人员及需要继续训练模型的团队。

它保留预训练基础能力,但尚未完成面向普通对话的指令微调,因此不能直接等同于开箱即用的聊天助手。

三个版本的定位非常清晰:

标准版用于直接推理,FP8版关注部署效率,Base版则为模型研究和专业微调提供基础。

目前三大版本已经上线Hugging Face。

标准版:


https://huggingface.co/tencent/Hy4-flash

FP8量化版:


https://huggingface.co/tencent/Hy4-flash-FP8

Base预训练版:


https://huggingface.co/tencent/Hy4-flash-base

02|224B参数仅激活12B,性能与成本同时优化

Hy4 Flash采用稀疏MoE混合专家架构。

按照腾讯发布时公布的参数口径,模型总参数量达到224B,其中包含约64B Engram参数,每个Token仅激活约12B参数。

这种设计能够在保留较大模型容量的同时,减少单次推理需要执行的计算。

为了进一步提高效率,腾讯还引入三项关键技术。

混合注意力机制(Hybrid Attention)

通过滑动窗口注意力与稀疏注意力相结合,减少长上下文处理过程中的计算和缓存负担。

官方公布的KV Cache规模仅为Hy3的1/24、Hy4的1/6。

LatentMoE

让专家网络在更低维度的空间中完成计算,进一步优化模型推理效率。

Engram

通过N-gram Embedding机制,为模型补充高效的局部信息表示能力,在控制计算开销的同时扩展参数容量。

同时,腾讯通过自蒸馏、强化学习和投机解码等技术,进一步优化模型输出效率。

按照此前官方公布的测试结果,Hy4 Flash的解码速度超过150 tokens/s,端到端任务输出长度降低约50%。

不过,这些数据对应官方测试环境,并不意味着所有本地部署都能获得相同速度。

Hy4 Flash真正想解决的,不是单纯把模型做大,而是让计算资源用得更有效率。

03|百万Token上下文,原生支持图片理解与智能体任务

除了推理效率,Hy4 Flash还支持最高100万Token上下文,并具备原生文本与图像输入能力。

这让它能够处理更大范围的文档、代码和视觉资料。

例如开发者可以将产品需求、相关代码和测试日志提供给模型,让它围绕完整背景分析问题。

结合外部工具后,还可以用于办公文档处理、深度搜索、PPT制作、简单前端开发和Computer Use等场景。

这里需要注意,支持图像理解并不等于模型能够直接生成图片或视频。

同样,百万Token是模型支持的上下文上限,实际可用长度还需要根据部署环境的显存和缓存配置决定。

腾讯此前公布的WorkIndex内部评测显示,Hy4 Flash的综合表现略优于Hy4 preview,但完成单项任务的平均费用仅为其1/13。

相比Hy4正式版,单任务成本则降至约1/20。

这些数据属于官方指定任务及计费条件下的结果,但也体现了Hy4 Flash的产品定位:

用更低的成本处理大量日常工作,让复杂任务继续交给能力上限更高的旗舰模型。

04|支持vLLM、SGLang部署,GGUF版本也有了

对于开发者来说,这次开源最实际的变化,就是可以自行部署。

Hy4 Flash官方仓库已经提供Transformers推理示例,以及基于OpenAI兼容接口的服务部署方式。

在推理框架方面,官方重点提供了vLLM和SGLang的适配说明。

同时,项目还提供模型微调相关工具和文档,方便开发者围绕特定场景继续训练。

除了三个官方权重版本,腾讯还提供了由AngelSlim制作的GGUF量化版本入口,方便开发者探索更多部署方式。

GGUF版本:


https://huggingface.co/AngelSlim/Hy4-flash-GGUF

不过,模型可以免费下载,并不代表普通电脑就能轻松运行。

即使每个Token只激活12B参数,模型整体仍然拥有超过200B参数的权重规模。

实际部署时还需要考虑权重存储、显存容量、KV Cache和推理框架等资源需求。

对于暂时没有高性能GPU服务器的个人开发者,仍然可以通过腾讯云API体验模型,再决定是否有必要自行部署。

05|不是MIT协议,商用前需要看清授权范围

此次Hy4 Flash采用的是 Tencent Hy License 1.0,并非MIT或Apache 2.0标准许可证。

该许可证基于Apache 2.0修改,并加入针对大型模型即服务业务的额外商业条款。

按照目前公布的许可证,对于符合特定收入或用户规模门槛的大型MaaS业务,可能需要事先取得腾讯的单独书面授权。

普通开发者也需要遵守许可证中的版权声明、分发及其他使用条件。

因此,模型权重开放意味着开发者拥有更多自行部署和研究的空间,但不能直接理解成任何规模、任何形式的商业服务都不受限制。

开源许可证:


https://huggingface.co/tencent/Hy4-flash/blob/main/LICENSE

06|腾讯云、元宝等产品已经接入,旗舰Hy4也在开源路上

在模型权重开放之前,Hy4 Flash就已经接入腾讯云TokenHub、WorkBuddy、元宝、企业微信、QQ、ima和Marvis等产品。

按照腾讯公布的API价格,每百万Token普通输入为0.5元,输出为2元,缓存命中输入低至0.02元。

同时,腾讯云推出了限时五折优惠,WorkBuddy也提供阶段性免费体验活动。

需要区分的是,API服务价格与自行下载模型权重是两回事。

自行部署虽然不需要按照腾讯云API调用次数付费,但仍然需要承担GPU、服务器和运维成本。

腾讯云TokenHub:


https://cloud.tencent.com/product/tokenhub

此外,腾讯混元还宣布,正在加快推进更大规模的Hy4模型开源。

目前已经正式开放的是Hy4 Flash系列,后续旗舰Hy4的具体权重开放时间与部署要求,仍需等待官方进一步公布。

总结|腾讯这次开源,不只是把模型放上GitHub

从11月16日正式发布,到11月18日开放权重,Hy4 Flash完成了从在线模型服务到开放模型生态的扩展。

这次不仅提供标准版、FP8量化版和Base预训练版,还同步开放部署与微调资料,让开发者可以根据实际需求继续使用和调整模型。

对于腾讯来说,Hy4 Flash已经进入元宝、WorkBuddy等产品,开源则有机会吸引更多开发者参与模型部署、工具适配和应用开发。

对于开发者来说,真正重要的也不是单纯能不能下载224B权重,而是它能否在自己的业务环境中,以合理的资源投入完成任务。

以前大家关注模型有多少参数,现在更值得关注的是:用多少算力、花多少钱,才能把一件工作真正完成。

Hy4 Flash的开放,为开发者提供了更多选择。


标签

评论 0

最新评论

登录后发布评论并参与互动。

暂无评论,欢迎抢沙发。

推荐阅读

查看更多