手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
相关文章：
相关推荐：
- 高盛看多中国AI价值链，光模块、数字芯片设计等细分赛道配置价值凸显，ETF选哪个？TMTETF景顺(512220)全面聚焦AI硬件科技
- 惹怒原剧粉、原版播放量反杀300%：短剧翻拍经典，到底在算计什么？|娱评
- 上半年我国GDP同比增长4.7%
- LV为何起诉国家知识产权局？律师：为以后商标维权扫清障碍｜封面深镜
- 这一期，聊聊《殿前扬威》那些不是彩蛋的彩蛋
- 比亚迪辅助驾驶车型保有量超333万辆
- 冉莹颖邹市明婚姻危机：赔光2亿只是开始，夫妻俩已分居三年，三次闹离婚到民政局…
- 短剧版“史密斯夫妇”？这设定爽翻了
- 安全座椅品牌口碑排名：2026年新生儿安全座椅十大品牌对比
- 入室杀害前女友案开庭：嫌疑人立“深情人设”，检察官驳斥“恋爱是双向奔赴，你却想把她打晕带走”
栏目分类
最新文章