苹果的 Minions:由闲置 Apple Silicon Mac 构建的虚拟 GPU 云
Apple's Minions: A virtual GPU cloud built from idle Apple Silicon Macs

原始链接: https://machinelearning.apple.com/research/distributed-gpu-cloud

随着 GPU 加速机器学习推理需求的不断增长,集中式 GPU 基础设施的局限性日益显现,包括成本高、弹性有限以及资源受限时等待时间长。与此同时,现代基于 Apple Silicon 的 macOS 设备配备了强大的 GPU,但在日常使用中大多处于闲置状态。本文提出 Minions,一种动态、分布式的虚拟 GPU 云,它聚合跨 macOS 设备的闲置 Apple Silicon GPU,以执行大规模机器学习推理工作负载。Minions 使团队能够利用现有硬件,而无需额外采购 GPU。该系统提供灵活的 GPU 推理任务执行、容错能力和高效的资源利用。我们的经验表明,在集中式 GPU 资源受限的环境中,闲置的 macOS 设备可以被转化为实用的分布式 GPU 推理平台。

Apple 的 Minions 是一个由闲置 Apple Silicon Mac 构建的虚拟 GPU 云,据苹果机器学习博客的一篇文章所述。HN 上的反应不一。评论者认为,它让公司可以在现有企业工作站上夜间运行推理或批量 AI 作业,避免为低优先级工作负载添置额外服务器。一些人觉得这很实用,但技术上并非突破性。其他人则质疑苹果为何不出售可上机架的硬件,或自建公有云,认为它本可以凭借早期 ARM 计算领先优势,将廉价 ARM 算力变成可租用资源。一名评论者搞不清它是否像面向 AI 的 SETI;另一人问实际使用体验如何。总体来看:这是利用闲置 Mac 算力的一种巧妙方式,但并非重大战略举措,也留下关于苹果云与服务器雄心的未解问题。
相关文章

原文

The increasing demand for GPU-accelerated machine learning inference has exposed limitations in centralized GPU infrastructures, including high cost, limited elasticity, and long wait times under resource constraints. At the same time, modern Apple Silicon–based macOS devices are equipped with powerful GPUs that remain largely idle during normal usage. This paper presents Minions, a dynamic and distributed virtual GPU cloud that aggregates idle Apple Silicon GPUs across macOS devices to execute large-scale machine learning inference workloads. Minions enables teams to leverage existing hardware without requiring additional GPU procurement. The system provides flexible GPU inference task execution, fault tolerance, and efficient resource utilization. Our experience shows that idle macOS devices can be transformed into a practical distributed GPU inference platform in environments where centralized GPU resources are constrained.

联系我们 contact @ memedata.com