Cloud AI 100 Ultra

高通云 AI 100 Ultra – 150W AI 加速卡，128GB 内存，带宽 548GB/s
Qualcomm Cloud AI 100 Ultra – 150W AI Accelerator Card with 128GB at 548GB/s

原始链接: https://www.qualcomm.com/data-center/products/cloud-ai-100-ultra

Cloud AI 100 Ultra | 高性能 AI 推理 | Qualcomm 您需要启用 JavaScript 才能运行此应用。

Hacker News 讨论了高通的 Cloud AI 100 Ultra：一款 150W 的 AI 加速器，配备 128GB 内存和 548GB/s 带宽，2024 年发布。评论者争论其规格是否过时，将其与 Apple M 系列及 Nvidia/AMD 产品比较，同时指出高通在更广泛芯片与封装内内存方面的进展。价格引发困惑：网站标价 $0.01，但估算为 $10k–17k，云租用约 $5/GPU/小时，八卡服务器每月数千美元。用户还讨论内存带宽限制、SRAM，以及更适合 prefill 或计算受限负载而非 decode。其他人指出八卡可聚合至约 1TB 和 4.4TB/s。总体反应不一：功耗效率与容量有吸引力，但对与新款 GPU 相比的价值及规格是否落后存疑。

Cloud AI 100 Ultra | High Performance AI Inference | Qualcomm

高通云 AI 100 Ultra – 150W AI 加速卡，128GB 内存，带宽 548GB/s Qualcomm Cloud AI 100 Ultra – 150W AI Accelerator Card with 128GB at 548GB/s

高通云 AI 100 Ultra – 150W AI 加速卡，128GB 内存，带宽 548GB/s
Qualcomm Cloud AI 100 Ultra – 150W AI Accelerator Card with 128GB at 548GB/s