gg2
Bonsai 2 27B 近乎无损压缩模型
一句话看懂
PrismML 发布了 Ternary Bonsai 2 27B,这是一个 5.9GB 的模型,保留了 Qwen3.8 27B 基准测试成绩的 98.2%。
这种取舍并不均衡:视觉和工具调用能力损失最大。
来龙去脉
- 2026年7月15日GIGAZINE 报道了此前 Bonsai 27B 的发布,它是 Qwen3.6-27B 的缩小版本,仅使用 3.9GB 内存并兼容 iPhone。
- 2026年9月17日PrismML 发布了 Ternary Bonsai 2 27B,基于 Qwen3.8 27B,采用三值 {-1, 0, +1} 权重、FP16 分组缩放、每权重 1.76 有效比特、5.9GB 占用空间、262K token 上下文窗口、多模态文本和图像输入,以及 Apache 2.0 许可证。
- 2026年9月17日PrismML 报告称,该模型总分为 83.9,而 Qwen3.8 27B 为 85.4,Qwen3.6 27B 为 83.6,并表示其体积比全精度版本小 9 倍以上,同时保留了 98.2% 的综合基准性能。