IT之家:https://www.ithome.com/ 10 月 4 日消息,Qwen3.8‑27B 是一款性能不错的人工智能模型,但前提是设备拥有足够的显存与系统内存。搭载 M4 Pro 芯片的 MacBook Pro 仅有 24GB 统一内存,在运行该 AI 模型时,预填充速度会因此受到限制。据 Wccftech 报道,有一名用户通过 USB‑C 接口将 iPhone 17 Pro Max:https://iphone.ithome.com/ 外接至这台便携 Mac 电脑上,并借助自制软件,使得该 AI 模型的预填充性能最高提升了 44%。
IT之家注意到,为突破这台 Mac 24GB 统一内存的上限,Reddit 用户“u/StayLameBro”采用两种方式,把运算任务拆分交给 Mac 本机和 iPhone 17 Pro:https://iphone.ithome.com/ Max 协同处理。针对预填充加速,MacBook Pro 负责处理每一批 256 个 token 当中的第 1 至 40 层,再将激活值数据流传输到手机端;与此同时,iPhone:https://iphone.ithome.com/ 利用 A19 Pro 的 GPU 运行第 41 至 64 层,而 Mac 这边则已经开始处理下一批数据。依靠 GPU 运算,手机端的运行速度相比不使用 GPU 时提升约 2.4 倍。