具身之家快讯
腾讯发布混元 Hy3 量化295B 模型可单卡运行
2026-07-23 12:49:21
7 月 14 日,腾讯推出混元 Hy3 极致量化版本,实现高端单卡本地运行该大规模 MoE 模型。混元 Hy3 总参数 295B,推理激活参数仅 21B,支持 256K 超长上下文,原生 BF16 权重高达 598GB,部署门槛原本较高。
此次上线三款量化方案,在显著降低显存需求的同时,最大限度保留模型性能。团队配套开发 llama.cpp 专属补丁,适配原生 MTP 多令牌投机解码,有效提升解码速度,改善本地运行卡顿难题。