苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
相关文章:
- 奈飞上7集印尼恐怖剧被集体低估,它比《黑镜》更值得刷屏?
- 专访|中国人工智能发展助力全球共享科技成果——访澳大利亚人工智能专家托比·沃尔什
- 利好来了,A股大牛股最新公告,业绩预增超3200%
- AI算力需求吸走客户 IBM市值蒸发4600亿:CEO公开信说了什么?
- 说到做到!亚马尔曾放话:不怕法国队,该怕的该是他们
- 苹果AI拿到国内“通行证”,可以期待一个怎样的AI手机?
- 高考提前批:北大没招满,多所院校没录满,征集志愿真能捡漏吗?
- 一辆车都没生产的众泰汽车竟扭亏为盈了:最高盈利达1个亿
- 西北大学贾浅浅事件,最失败的一次“舆情应对”
- 唯一获奖人形机器人!智元远征A3 Ultra摘得WAIC 2026“镇馆之宝”
