Anthropic 封禁任何涉及训练更大模型的用户。
Anthropic blocks users for anything touching training larger models

原始链接: https://twitter.com/jiahaoshao1/status/2116475922190922088

反蒸馏 crusade 是双重标准的巅峰。你们在开放网络上训练——书籍、代码、论坛、所有人的作品——然后禁止任何人大规模地从你们的输出中学习。保护护城河是一回事;站在抓取的知识上却对它进行道德评判,是另一回事。

Hacker News 的讨论串讨论了 Anthropic 在用户询问训练更大模型时封禁账号的情况。一名位于香港(Claude 在当地不可用)的用户可能使用了 VPN,从而触发了安全防护。评论者报告称,在美国/欧盟,关于修改权重或高级训练/研究的问题也存在类似封禁。有人说这些限制由来已久;也有人认为封禁优于编造信息;还有一位评论者声称 Anthropic 故意 mishandles advanced model-training questions。讨论还包含对模型构建中“秘密”的怀疑、对行业交叉招聘的引用,以及对未来 GPU 限制的玩笑。总体而言,该讨论串凸显了对 Anthropic 安全过滤器限制合法机器学习研究和训练相关查询的担忧。
相关文章

原文

And the anti-distillation crusade is peak double standard. You train on the open web—books, code, forums, everyone else's work—then ban anyone from learning from your outputs at scale. Protecting a moat is one thing; moralizing it while standing on scraped knowledge is another.

联系我们 contact @ memedata.com