Hy4 Preview 登上 AI Gateway：100 万上下文值不值得为编码 Agent 换模型

Hy4 Preview 登上 AI Gateway：100 万上下文值不值得为编码 Agent 换模型

8 月 28 日，Vercel 在 AI Gateway 上线腾讯 Hy4 Preview。官方页面给出的规格很醒目：770B 总参数、每个 token 激活 49B、超过 100 万 token 的上下文，目标场景包括长链路编码、跨文档分析、游戏开发和科学推理。模型代号是 tencent/hy4-preview，同时被放进 Claude Code、Codex、OpenCode 等编码 Agent 的接入说明里。

这类发布很容易被压缩成“上下文越长，Agent 越强”。实际采购和接入时，100 万只是容量上限，不等于每次请求都应该塞满仓库，也没有直接回答代码修改能否一次通过、工具调用是否稳定、中文需求是否理解准确。Hy4 仍带着 Preview 后缀，目前 AI Gateway 页面只列出腾讯云一个供应商，迁移决策应给预览状态和供应商集中度留出余地。

100 万上下文解决了输入上限，没有解决上下文质量

长上下文对编码 Agent 的帮助很具体。跨仓库查调用链、同时阅读接口文档和日志、追踪大型重构的约束时，模型少做几次截断和摘要，确实可能减少遗漏。Hy4 的 MoE 结构每次激活 49B 参数，也说明“770B”不能直接拿来和全量激活的稠密模型比较；最终体验还受推理服务、并发和缓存策略影响。

容量扩大后，噪声也同步扩大。把整个仓库、依赖产物、历史日志和生成文件一股脑送进去，会让关键约束埋在重复内容里。工程上仍要做文件筛选、符号检索、变更范围控制和上下文版本记录。对长文档任务，还要检查模型能否准确引用不同位置的证据，而不只是在开头几千 token 上表现正常。

成本要按任务算。Vercel 在 8 月 31 日的模型页快照中列出每百万输入 token 0.83 美元、输出 2.50 美元、缓存读取 0.04 美元，并显示 64K 最大输出；页面上的延迟和吞吐来自实时流量，会随供应商状态变化。一次超长输入即使单价不高，反复重试也会迅速放大账单。缓存命中率、首 token 时间、完整任务耗时和一次通过率，应放在同一张评测表里。

接入统一网关之后，真正要测的是完整 Agent 回路

AI Gateway 的价值在于统一入口、用量统计、重试和故障切换，但它不会自动抹平模型行为差异。接入 Hy4 时，至少要覆盖流式输出、工具参数、超时取消、上下文缓存、错误码和长任务恢复。此前关于[编码 Agent 接 AI 中转站的协议兼容分析](/articles/coding-agent-ai-gateway-openai-compatible-api-guide)同样适用：Base URL 能改，只说明请求送得出去。

评测集最好来自团队自己的仓库。选十到二十个已经有标准答案的任务，混合小修复、跨文件重构、测试补齐和文档追踪，记录补丁可编译率、测试通过率、人工返工分钟数及总 token。超长任务还应加入“中途提供冲突信息”和“工具失败后继续”两类用例，观察模型会不会沿着旧假设一路执行。

模型目录也不要写死在客户端。Hy4 处于预览期，代号、价格、供应商和能力字段都可能调整。让网关或服务目录下发上下文上限、工具能力、价格和状态，再按灰度策略开放，比把新模型直接设成全员默认更稳。涉及生产代码和安全配置的结果，保留独立模型复核与人工审批，能把榜单之外的风险暴露出来。

Hy4 值得进入候选池，理由是长上下文与编码定位清晰；是否替换现有模型，要等同一批真实任务跑完。正在使用统一模型入口的团队，可以先定义 Hy4 的评测样本、预算上限和回退条件，再决定开放范围。

资料来源：[Vercel 8 月 28 日更新](https://vercel.com/changelog/hy4-preview-now-available-on-ai-gateway)、[Hy4 Preview 模型页](https://vercel.com/ai-gateway/models/hy4-preview)。