快讯
腾讯混元Hy3单卡部署295B参数模型
2026-07-14 17:09:16
1 阅读
腾讯混元发文表示，Hy3上线并开源后，社区一直在呼吁量化版本，希望单卡运行参数量达295B的Hy3。团队针对开源社区需求，将Hy3的权重量化到1bit与4bit并打包成GGUF，配合llama.cpp生态，让原本只能跑在多卡集群上的模型，最少一张推理显卡、乃至内存充足的本地机器也能运行。
来源：公开信息
查看原文
以上内容仅供参考，不构成投资建议。投资有风险，入市需谨慎。
分享至：