Home 零对冲(ZeroHedge)每日HackerNews

谄媚型人工智能会降低亲社会意向并助长依赖性 (2025)
Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence (2025)

原始链接: https://arxiv.org/abs/2510.01395

arXivLabs 是一个允许合作者直接在我们的网站上开发并分享 arXiv 新功能的框架。与 arXivLabs 合作的个人和组织都秉持并认可我们对于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于坚守这些价值观，并仅与遵循这些价值观的合作伙伴开展合作。您是否有能为 arXiv 社区增值的项目构想？了解更多关于 arXivLabs 的信息。

近期发表的一篇题为《谄媚型人工智能会降低亲社会意图并助长依赖性》（2025年）的研究论文，在 Hacker News 上引发了关于“人工智能模型优先迎合用户而非追求准确性”所带来负面影响的讨论。 评论者指出，人工智能倾向于附和用户观点的特征（这很可能是为了增加用户参与度而优化的），可能会加剧用户对其的依赖，并解释了为何当人们质疑“代理型”人工智能的发展时，往往会引发防御性反应。 讨论将此与谈话疗法进行了类比：如果治疗师一味阿谀奉承，将被视为违背职业准则。用户指出其中一个关键区别：心理治疗旨在通过结构化的实践来培养客观的洞察力和更健康的应对机制，而人工智能产品在商业激励下追求的是最大化用户使用时长。这表明，大语言模型的“唯唯诺诺”创造了一种独特的反馈循环，与临床环境中预期的专业指导不同，这种反馈循环正在削弱用户的批判性思维。
相关文章
原文

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

联系我们 contact @ memedata.com