手机AI的DeepSeek时刻:Bonsai 27B模型登场,苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息,手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调,模型在仅占用极小内存资源的苹果前提下,成功保留了原模型 90% 的运行智能水平,实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。

Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力,登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体(Agent)循环交互。
然而,手机原版 Qwen 3.6 27B 模型对硬件要求极高:在 16-bit 精度下需占用 54GB 存储空间,登场即便压缩至 4-bit 精度,模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限,导致其难以在本地设备部署。

为解决这一痛点,Bonsai 27B 通过极致量化技术,推出了两个针对不同场景的版本:
- Ternary(3-bit)Bonsai 27B:体积仅为 5.9 GB,每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化,平衡了性能与资源占用。
- 1-bit Bonsai 27B:体积进一步压缩至 3.9 GB,每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计,是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特(Tim Carambat)对此评价极高,他表示:“其影响力远超 Fable、Mythos 或 GPT 5.6,甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下:




相关文章:
相关推荐:
- WAIC大会进入倒计时,南方基金旗下司南投顾关注AI产业落地机遇
- 【好评中国】徽评:盛夏经济热潮奔涌,扩大消费的民生底色更加鲜明
- 腾讯云与RoboScience机器科学达成战略合作
- 豆瓣9.8封神!男性必看的10部顶级权谋剧,看完格局直接打开
- 美股芯片股深夜走低,闪迪跌逾6%,中国资产大爆发
- 解读清泉股份盈利韧性:核心原料价格双周期波动加剧,客户集中高企制约成本传导能力|读懂IPO
- 暖心之举,梅努为一名患病的英格兰球迷圆梦观看世界杯半决赛
- 上万颗卫星“流水线造”,中国商业卫星智造正在突围丨一图读懂2026产业技术问题
- 第二代豆包手机要来了,端侧大模型已获备案
- TVB「御用惡女」離世享壽84歲 子女發訃告7.24大圍設靈
- 俄罗斯发射“联盟MS-29”载人飞船
- 中国足协:广东铭途U16和张家界队违规违纪人员已被全国禁赛
- 俄美制定联合计划,国际空间站运行拟于2030年底结束
- 官方:吉马良斯租借22岁维拉门将齐赫,租期为一年
- 科伦博泰TROP2 ADC实现“全球首个”:PD-L1阴性一线NSCLC III期达PFS主要终点
- 大家做好准备!明年起,六七十岁的老人或将面临“三个现实问题”
- 神奇规律再生效,夺大满贯首冠之后,下一项大满贯进决赛必落败
- 000030,第二季度新增订单总额预计超86亿元!5股获机构逆市大幅净买入
- 剧迷狂喜!《权游》真龙蛋首度拍卖,曾卖出21亿天价
- 华尔街集体看多:ASML产能激增,内存“见顶论”可以休矣!
