PrismML 宣布推出 Bonsai 27B，基于 Qwen3.6 27B 的多模态旗舰模型，号称首款可在手机上运行的 27B 级模型。支持多步推理、结构化工具使用、长上下文工作流和智能体循环。提供两个变体：Ternary 版 5.9 GB（1.71 有效比特/权重，面向笔记本级质量），1-bit 版 3.9 GB（1.125 有效比特/权重，面向手机级占用）。在 RTX 5090 上 1-bit 达 163 tok/s、Ternary 达 134 tok/s；在 M5 Max 上 1-bit 达 87 tok/s、Ternary 达 58 tok/s。全部以 Apache 2.0 开源。
来源：X：Elvis Saravia (@omarsar0, DAIR.AI) — 查看原文
数据来源：AI HOT (aihot.virxact.com)
发表回复