9月25日,@aaronp613在X发布推文称,苹果公司在Jamf用户大会(JNUC)的AI端侧演讲中公布一张端侧AI推理能力对比图表,展示从iPhone、iPad到Mac Studio集群的本地AI上限。
图表列出各产品最大统一内存、内存带宽与可承载最大激活参数:iPhone/iPad为16GB、76GB/s、最高140亿;MacBook Air为32GB、153GB/s、最高350亿;Mac mini为64GB、307GB/s、最高700亿;MacBook Pro为128GB、614GB/s、最高1,200亿;Mac Studio为512GB、1.2TB/s、最高4,800亿;Mac Studio集群为2TB、1.2TB/s、最高1.6万亿。
苹果这套方案依托统一内存架构,内存容量、带宽直接决定硬件可加载模型的参数量,设备定位越高,本地AI能力越强。
