随着 2.8 万亿参数 Kimi K3 等超大规模开源模型的涌现,硬件领域面临着严峻挑战。由于这些模型体量巨大且内存需求极高,很难在标准的 NVIDIA B200 配置上运行。
Wafer 最近的测试表明,AMD 的 MI355X 是一种极具成本效益的替代方案。MI355X 拥有 288GB 的 HBM 内存,能够高效部署 Kimi K3,且在性价比上优于 NVIDIA 的 B200 和 B300 芯片。虽然 MI355X 初期面临一些软件障碍(如缺少内核及框架不匹配等),但这些问题通过相对简单的优化即可解决,无需进行大规模的定制化开发。
值得注意的是,Wafer 通过修复预填充(prefill)内核不匹配问题,显著提升了“首字生成时间”(TTFT),证明 AMD 在性能上的差距正在迅速缩小。凭借这些工程优化,MI355X 证明了其能够有效支持最先进的模型,向 CUDA 生态系统长期以来的主导地位发起了挑战。随着软件支持的不断成熟,MI355X 有望成为大规模人工智能基础设施中强有力的竞争者。
技术的发展与应用发生在四个不同的时间尺度上,未能区分这些尺度会导致广泛的误导信息和错误的预测。
1. **研究(10–60年以上):** 重大的突破需要数十年的实验室迭代工作。例如,现代人工智能在达到当前状态之前,经历了60多年持之以恒的研究。
2. **炒作周期(短暂):** 公众和媒体的强烈兴趣往往会夸大技术的成熟度。虽然炒作周期来去匆匆(例如区块链、元宇宙),但它们很少能反映技术真正的成熟程度。
3. **规模化部署(20年以上):** 即使工程上获得成功,从可工作的原型转向大规模应用也是一项艰巨的任务,需要复杂的供应链和行为模式的改变。无论是软件还是硬件,在变得普及之前都面临着巨大的阻力。
4. **经济重塑(50年以上):** 真正具有变革性的技术——如电力或集装箱——需要超过半个世纪的规模化部署,才能从根本上重组全球经济。
归根结底,人们经常将科学进步与市场炒作和即时的经济影响混为一谈。真正的技术成熟是一个缓慢的过程,它在一个人的一生中逐渐展开,而非短短几年。