我们收到消息称,Moonshot 蒸馏了 Fable 以用于 K3 的开发。
“We have information that Moonshot distilled Fable for the development of K3”

原始链接: https://twitter.com/mkratsios47/status/2079933645888880708

我们获悉,月之暗面(Moonshot AI)在开发其 K3 模型时,通过蒸馏 Anthropic 公司的 Fable 模型来实现。为此,他们开发了一个复杂的内部平台,针对美国模型进行大规模蒸馏,并能够快速切换多种访问方式以规避检测。此外,月之暗面还购置了配备 GB200 的服务器,并已经在泰国接入了 GB200,这很可能是为了训练其人工智能模型。 美国坚定支持人工智能的自由、公平发展,包括构建一个涵盖前沿模型、专业系统、开源框架和开放权重模型的繁荣竞争生态系统。旨在创建更小、更高效模型的合法人工智能蒸馏,在这一开放创新生态系统中发挥着至关重要的作用。然而,以窃取美国专有技术和损害美国研究为目的的大规模隐蔽工业化蒸馏是不可接受的。

近期 Hacker News 上的一场讨论对美国官员的说法提出了质疑,这些官员称中国 AI 公司月之暗面(Moonshot)通过蒸馏 Anthropic 的“Fable”模型来创建了其新模型“K3”。 评论者对这一时间线表示怀疑,指出 K3 在 Fable 发布后不久就问世了——许多人认为这一时间窗口太短,不足以进行有效的蒸馏。一些用户认为,这些指控是出于政治动机的“恐惧、不确定和怀疑”(FUD),旨在保护美国公司免受外国竞争。另一些人则认为,即便确实发生了蒸馏,这也是当前 AI 生态系统中的一种标准且预期的做法,指责中国实验室“窃取知识产权”忽视了他们日益增长的本土技术能力。 怀疑论者还强调了过去政府关于中国技术进步的说法后来被证伪的案例。相反,一些参与者指出,K3 的输出(特别是其对某些提示注入的重复)表明可能使用了 Anthropic 的数据,尽管蒸馏程度仍存在争议。归根结底,这一讨论反映了两种观点之间的广泛分歧:一方将 AI 蒸馏视为一种合法的竞争手段,另一方则将其视为对美国 AI 知识产权的生存威胁。
相关文章

原文

We have information that Moonshot AI distilled Anthropic’s Fable for the development of its K3 model. To do this they developed a sophisticated internal platform to conduct large scale distillation against U.S. models, allowing them to quickly switch between multiple methods of access to avoid detection. Moonshot AI has also acquired GB300-equipped servers and has accessed GB300s in Thailand, likely to train its AI models.   The United States strongly supports the free and fair development of AI, including a thriving competitive ecosystem that spans frontier models, specialized systems, open-source frameworks, and open-weight models. Legitimate AI distillation used to create smaller, more efficient models plays a vital role in this open innovation ecosystem. However, large-scale, covert industrial distillation aimed at stealing proprietary U.S. technology and undermining American research is unacceptable.

联系我们 contact @ memedata.com