苹果评估PrismML 1比特量化技术，实现27B大模型iPhone本地运行
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型（LLM）所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内，为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案，可将模型体积缩减至全精度版本的术实约七分之一，内存占用降低超过 90%。现B型i行在精度保持上，大模地运压缩后的苹果评估模型性能接近半精度浮点数（FP16）水平，同时显著提升了推理速度并降低了设备功耗。比e本
近期，特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调，术实在保留原模型约 90% 智能水平的现B型i行前提下，已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署，完整运行拥有 270 亿参数的苹果评估语言模型。
相关文章：
相关推荐：
- 美股存储芯片股大反攻，SK海力士大涨12%，闪迪涨6%，IBM暴跌25%创近40年最大单日跌幅
- 金山办公章庆元：AI时代软件将迎来新生，办公软件会演进为AI Native的一站式办公平台
- 新华深读丨古老秦腔的破圈与突围
- 高价快速！北京酷别深图专业 IDC 服务器回收激活资产价值
- 泡泡玛特拉升大涨超8%，创始人王宁到访苹果总部，库克发文欢迎
- 皮尔斯·布鲁斯南的这部80年代侦探剧，007粉必看
- 大S离世一年半，他前夫具俊晔做了两件事
- 克罗地亚足协致信FIFA：请澄清VAR和裁判判罚，提高透明度
- 华为MateBook MOR系列通过3C认证，鸿蒙笔记本产品线再添新成员
- 全球媒体聚焦 | 美媒：中国品牌正赢得更多朋友
栏目分类
最新文章