Hy4 preview logo

Hy4 preview

打开

腾讯新一代开源权重 MoE 旗舰:总计 770B、每 token 激活 49B,1M 上下文,Apache 2.0。采用门控稀疏注意力,长程编码与生产力任务表现领先。

分享:

Hy4 preview

Hy4 preview 是腾讯 Hy Team 于 2026-08-27 发布的新一代混合专家(MoE)开源旗舰。总计 770B 参数、每 token 激活 49B,配 1M 上下文窗口与 Apache 2.0 许可,处于开源前沿。腾讯请 163 位内部专家对 203 个工程任务做盲测对比,Hy4 preview 略胜 GLM 5.3(2.99 vs 2.92)与 Kimi K3(2.99 vs 2.94)。

核心功能

  • 7:1 激活比:总计 770B,每 token 激活 49B。
  • 门控稀疏注意力(Gated DSA):在 DeepSeek/GLM 稀疏注意力基础上扩展,并用 IndexCache 做跨层稀疏索引复用。
  • iHC 残差通路:Identity Hyper-Connections 增强层间信息流。
  • 1M 上下文:单次即可覆盖很长的工程与分析任务。
  • 原生 MTP 层:内置多 token 预测层(10B 参数、0.7B 激活)加速投机解码。
  • 面向生产力的训练数据:围绕腾讯软件工程师、游戏开发者、金融分析师与安全专家的工作构建。

适用场景

谁应该使用这个工具?

  • 长程软件工程:理解、规划、调试与验证大型多文件开发任务。
  • 办公与分析:把零散的多文件上下文整理成文档、表格与演示稿,精度更高。
  • 游戏开发:把一句提示变成一个可玩原型,并配合游戏引擎多轮迭代。
  • 科学研究:在 AI 研究、分子动力学、凝聚态物理与纯数学等难题上推理更强。

解决的问题

  1. 大任务的上下文溢出:1M 窗口让整个项目或报告一次装下。
  2. 稀疏注意力的成本:Gated DSA 加 IndexCache 降低长上下文推理的计算量。
  3. 长程任务跑偏:激活预算与推理重点让模型在多轮工程工作中保持方向。

定价方案

途径 费用 说明
权重(Apache 2.0) $0 可从 Hugging Face、ModelScope、cnb.cool、GitCode 下载。
自托管推理 自理 用 vLLM 或 SGLang 部署,调用 OpenAI 兼容接口。
托管 API 不提供 发布时腾讯未提供托管 API,需自行部署。

优势对比

  • 开源的旗舰规模:Apache 2.0 下的 770B/49B 配 1M 上下文。
  • 盲测工程评测领先:203 任务上 2.99 对 GLM 5.3 的 2.92、Kimi K3 的 2.94。
  • 生产力优先的数据:与 CodeBuddy、WorkBuddy 协同设计,进步落在真实交付的工作上。

快速开始

  1. tencent/Hy4-preview 下载权重。
  2. vLLMSGLang 部署。
  3. 调用 http://127.0.0.1:8000/v1 这个 OpenAI 兼容端点。
  4. 先跑一个小任务,再扩大到全上下文工程工作。

常见问题

模型是开源的嘛?

是的,Apache License 2.0。权重可从多个仓库下载。

需要什么 GPU?

这个规模(总计 770B)需要多卡或配置到位的推理服务器。发布时没有托管 API。

有托管 API 吗?

发布时腾讯未提供托管 API,需要自行部署 vLLM 或 SGLang。

替代方案

  • GLM-5.3:智谱的开源开源前端模型,盲测中的近竞品。
  • DeepSeek V4:另一款开源权重推理旗舰。
  • Kimi K3:月之暗面的开源权重模型,盲测中的近竞品。

使用技巧

  1. 有目的地使用长上下文;若不需要,1M 窗口代价不菲。
  2. 对 49B 激活参数优先用 SGLang 或 vLLM 的张量并行。
  3. 把 203 任务盲测当作方向性信号,而非通用排名。

总结

Hy4 preview 是腾讯的开源权重前沿 MoE,兼顾 1M 上下文、稀疏注意力与生产力训练。下载 Apache 2.0 权重并自行部署,如果你需要一个面向工程与分析的开放长程模型。

第一方来源:https://github.com/Tencent-Hunyuan/Hy4-preview

评论

还没有评论。成为第一个评论的人!