办公室里的Mac常常只在白天处理文档、开会,内置GPU大部分时间并未满载。Minions想把这些分散的Apple Silicon设备组织起来,让团队像使用一朵“虚拟GPU云”那样提交AI推理任务。这里不是把多台Mac真的合成一块显卡,而是由系统统一调度任务,隐藏设备分散、性能不同和随时上下线的麻烦。
这条路径值得关注,因为集中式GPU基础设施往往价格高、扩容不灵活,资源紧张时还要排队。Apple Silicon采用统一内存——CPU和GPU共享同一片内存,减少数据来回复制,也让设备可用内存直接影响它能装下多大的模型。作者称,Minions支持灵活执行推理任务、故障容错和资源利用,可在集中式GPU受限的环境中把闲置Mac变成实用的分布式推理平台。不过,现有材料没有披露设备规模、吞吐量、网络开销或与传统GPU云的量化对比,因此它目前更像一条有吸引力的替代路线,而非已被充分验证的通用方案。