苹果的 Minions:由闲置 Apple Silicon Mac 构建的虚拟 GPU 云
A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices

原始链接: https://machinelearning.apple.com/research/distributed-gpu-cloud

随着 GPU 加速机器学习推理需求的不断增长,集中式 GPU 基础设施的局限性日益显现,包括成本高、弹性有限以及资源受限时等待时间长。与此同时,现代基于 Apple Silicon 的 macOS 设备配备了强大的 GPU,但在日常使用中大多处于闲置状态。本文提出 Minions,一种动态、分布式的虚拟 GPU 云,它聚合跨 macOS 设备的闲置 Apple Silicon GPU,以执行大规模机器学习推理工作负载。Minions 使团队能够利用现有硬件,而无需额外采购 GPU。该系统提供灵活的 GPU 推理任务执行、容错能力和高效的资源利用。我们的经验表明,在集中式 GPU 资源受限的环境中,闲置的 macOS 设备可以被转化为实用的分布式 GPU 推理平台。

Hacker News 读者讨论苹果的一篇论文,其中描述了“Minions”——一个内部分布式虚拟 GPU 云,把空闲的 Apple Silicon Mac 汇集起来用于机器学习推理。它采用任务级并行——将工作负载拆分为相互独立的作业——而不是让一个模型跨多块 GPU 运行。评论者指出,这个想法类似于 SETI@home、Folding@home、Condor、Incredibuild,以及早期的空闲周期回收型系统和渲染农场。许多人对新颖性持怀疑态度,并援引 Ollama/S3/DB 作业运行器架构、能源成本、机群异构性、长尾延迟和调度问题。另一些人则看到它对企业的实际价值:利用现有 Mac 在夜间进行低优先级批量推理,未来还可能实现分布式训练或消费者算力共享/积分。一些人就苹果的芯片与云战略、缺少可机架部署的服务器,以及 Mac GPU 的竞争力展开争论。总体而言:这是一个有用的内部系统,但并非技术上的突破;大部分兴趣在于未来联邦式/分布式机器学习的可能性,以及苹果更广泛的基础设施方向。
相关文章

原文

The increasing demand for GPU-accelerated machine learning inference has exposed limitations in centralized GPU infrastructures, including high cost, limited elasticity, and long wait times under resource constraints. At the same time, modern Apple Silicon–based macOS devices are equipped with powerful GPUs that remain largely idle during normal usage. This paper presents Minions, a dynamic and distributed virtual GPU cloud that aggregates idle Apple Silicon GPUs across macOS devices to execute large-scale machine learning inference workloads. Minions enables teams to leverage existing hardware without requiring additional GPU procurement. The system provides flexible GPU inference task execution, fault tolerance, and efficient resource utilization. Our experience shows that idle macOS devices can be transformed into a practical distributed GPU inference platform in environments where centralized GPU resources are constrained.

联系我们 contact @ memedata.com