加速 GPT-5.6 Sol 超高速版

加速 GPT-5.6 Sol 超高速版
Accelerating GPT-5.6 Sol Ultrafast

原始链接: https://www.cerebras.ai/blog/accelerating-gpt-5-6-sol-ultrafast-with-openai

Cerebras 推出了“极速”（Ultrafast）模式，这是一种旨在加速前沿 AI 工作负载的高性能推理解决方案，使工程师能够专注于解决复杂问题。该技术利用了 Cerebras 独特的晶圆级引擎（Wafer-Scale Engine），解决了传统基于 GPU 的推理中常见的数据传输瓶颈。通过将 44 GB 的 SRAM 直接集成到晶圆尺寸的芯片上，Cerebras 将模型权重保留在芯片内，消除了在片上内存和片外存储之间传输数据的需求。这使得标记（token）能够不间断地流经模型层，从而实现随模型规模高效扩展的“极快”速度。目前，Ultrafast 模式下的 GPT-5.6 Sol 已面向部分客户提供有限预览，并计划随着容量的增加扩大访问范围。

Cerebras 近期发布的“GPT-5.6 Sol”模型及其“极速”（Ultrafast）模式在 Hacker News 上引发了热烈讨论。该模型表现卓越，据称仅用 11 个多小时就完成了 2,500 道 HLE 问题，速度比耗时超过三天的 Claude Fable 5 快了近七倍。讨论的核心要点包括： * **前所未有的速度：** 用户指出，“极速”模式明显快于 Opus 4.8 和 Gemini 3.7 Flash 等竞争对手，挑战了当前速度与智能的帕累托最优边界。 * **准入限制：** OpenAI 目前对该技术实施访问限制，要求企业申请并提供具体用例，且尚未披露定价细节。 * **行业影响：** 社区对推理速度的提升感到非常兴奋。一些用户认为，速度往往被低估了，即使模型能力稍逊，更快的速度也能在编码等任务中提供更好的用户体验。 * **未来展望：** 讨论还涉及硬件集成的前景，用户构想了未来支持本地离线运行的 LLM 硬件。总的来说，这一进展被视为一个重要的里程碑，尽管用户仍对未来的“Luna”迭代版本以及最终成本保持关注。

原文

With Ultrafast, researchers and engineers can reserve their attention for going deep on select problems that matter most, while continuing to use Standard processing for parallelizing commodity tasks. Cerebras is excited to power the next wave of AI innovation, raising the ceiling for what individuals and organizations can accomplish with responsive AI.

Breakneck Speed is Enabled by Breakthrough Innovation

GPT-5.6 Sol on Ultrafast mode is powered by Cerebras’ revolutionary Wafer-Scale Engine architecture, purpose-built for frontier AI workloads. Fast frontier inference is a data movement problem: on GPUs, inference on large models is bottlenecked by memory bandwidth, as model weights must be repeatedly transferred between on-chip memory and off-chip storage to generate successive tokens within a model response.

Cerebras takes a contrarian approach to eliminating this inefficient data movement: we pack 44 GB of SRAM on each wafer-sized chip. Weights stay on-chip, and tokens flow uninterrupted through model layers pipelined across wafers. This technical approach scales smoothly with model size, paving the way for a continued speed advantage on future frontier models.

Ultrafast: Now in Limited Preview

GPT-5.6 Sol on Ultrafast mode is available in a limited preview today to a select group of customers. Access will expand as capacity grows. Sign up for updates.