据IT之家10月4日消息,Reddit用户“u/StayLameBro”通过USB-C将iPhone 17 Pro Max外接至搭载M4 Pro芯片、24GB统一内存的MacBook Pro,并借助自制软件backburner运行Qwen3.8-27B。
为突破24GB内存上限,Mac负责每批256个token的第1至40层,再将激活值传至手机;iPhone用A19 Pro的GPU运行第41至64层。手机端GPU运行速度相比不用GPU提升约2.4倍。
在2000token文件预填充并保存会话任务中,16K上下文速度从每秒109个token升至157个,提升44%;8K从132升至177,提升35%;32K从101升至130,提升29%。64K以内手机不加速文本生成,文本生成仍由Mac完成,软件已开源。
