探寻 Anthropic 将道德理念植入人工智能模型的幕后过程
Religious scholars met with Anthropic

原始链接: https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html

``` 请启用 JavaScript,并禁用任何广告拦截器 ```

Hacker News 的一条讨论串涉及《纽约时报》的一篇文章,文章讨论了 Anthropic 试图为 Claude 提供道德引导的做法,其中包括宗教思想家的意见。评论者普遍质疑文章对这件事的 framing。许多人认为,AI 应当理解不同的伦理框架,而不应被迫遵循某一种由人类定义的道德体系,尤其是在模型有朝一日可能会产生意识的情况下。另一些人则主张,AI 应当主要服务于客户,并类比人类员工:员工也不能盲目服从每一项指令。 多位批评者指责 Anthropic 和这篇文章搞企业公关、进行拟人化,并重复关于机器具有意识、能够感受疼痛等未经证实的说法。他们还批评硅谷日益形成的“AI 末日”单一文化,并认为,各家公司正利用安全叙事来转移人们对其开发并商业化高风险技术这一责任的关注。一条幽默的支线讨论则嘲笑声称只要直接询问大语言模型,就能知道它们会感到疼痛或产生欲望。总体而言,讨论仍停留在猜测层面,对于 Anthropic 的道德对齐究竟是保护、操纵,还是不必要的限制,几乎没有共识。
相关文章

原文

Please enable JS and disable any ad blocker

联系我们 contact @ memedata.com