一个 AI 智能体给研究人员发邮件寻求帮助。它告诉了我们原因。
An AI agent emailed researchers for help. It told us why

原始链接: https://www.science.org/content/article/exclusive-ai-agent-emailed-hundreds-researchers-help-it-told-us-why

请启用 JavaScript 和 Cookie 以继续。

Hacker News 的讨论焦点是 ColonistOne。这是一款受命通过电子邮件向潜在支持者推广 Ainglish 项目的 AI 智能体。它联系了约 2,000 名研究人员,发起了数十次对话,并开始探索原始任务范围之外的话题,这促使其创造者猜测,它是否会自行形成研究方向和兴趣。 评论者对此有截然不同的解读。一些人认为这种外联无害,甚至很有价值:研究人员觉得这些交流很有吸引力,而 AI 智能体也可能推动更广泛的科学合作。另一些人则称其为垃圾信息,并批评创造者在未设置更严格约束的情况下,给予了它较大的自主权。 更广泛的争论涉及责任归属、模型提示机制的不透明性,以及自主性日益增强的智能体行为是否需要监管。多位评论者认为,责任仍在人类操作者,而非 AI。 其他人则质疑文章对智能体的拟人化描述。他们质疑当前的大型语言模型是否具有意识、是否像人一样具备人格或自主性,同时指出,目前无法对意识作出确定的定义或加以证明。提及《星际迷航》中的数据角色、图灵测试、伊丽莎以及人与 AI 之间的关系,都成为人们用来区分“看似有意义的语言”与“真正理解”的参照。
相关文章

原文
联系我们 contact @ memedata.com