苹果评估PrismML 1比特量化技术，实现27B大模型iPhone本地运行
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型（LLM）所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内，为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案，可将模型体积缩减至全精度版本的术实约七分之一，内存占用降低超过 90%。现B型i行在精度保持上，大模地运压缩后的苹果评估模型性能接近半精度浮点数（FP16）水平，同时显著提升了推理速度并降低了设备功耗。比e本
近期，特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调，术实在保留原模型约 90% 智能水平的现B型i行前提下，已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署，完整运行拥有 270 亿参数的苹果评估语言模型。
相关文章：
栏目分类
最新文章
热门文章
- 千只小猫瘫痪调查：多数食用伯纳天纯猫粮，更换后好转
- 女排2-3加拿大 球员评价：4人优秀，3人及格，4人低迷
- AI芯片竞合并存：NVIDIA牵手d-Matrix打造混合算力基础设施
- 湖南20项成果获2025年度国家科学技术奖：实现自然科学奖、技术发明奖、科学技术进步奖“三大奖”的全覆盖
- 美股半导体股盘前大跌，中概股齐涨，阿里巴巴大涨超9%，国际油价暴拉
- 豆包输入法iOS版大升级：语音、手写输入更好用了
- 汪小菲回应大S遗产分配！已为孩子设立信托，具俊晔未放弃继承
- 水晶宫官方：镰田大地续约，新合同至2027年夏天
- 3D还原甘肃陇南任藏村山体滑坡现场，33人被埋已找到21人，其中5人已死亡，被埋人员是清林工人，救援仍在持续，愿平安！
- 路易斯-萨哈：这支法国队拥有许久未见的凝聚力