为什么人工智能系统无法学习——基于认知科学的自主学习探讨

为什么人工智能系统无法学习——基于认知科学的自主学习探讨
Why AI systems don't learn – On autonomous learning from cognitive science

arXivLabs是一个框架，允许合作者直接在我们的网站上开发和分享新的arXiv功能。个人和与arXivLabs合作的组织都认同并接受了我们开放、社群、卓越和用户数据隐私的价值观。arXiv致力于这些价值观，并且只与秉持这些价值观的合作伙伴合作。您是否有为arXiv社群增加价值的项目想法？了解更多关于arXivLabs的信息。

一篇最近在Hacker News上讨论的论文，提出了一种新的AI学习框架，其灵感来源于认知科学。作者Dupoux、LeCun和Malik认为，当前AI的困境在于它依赖于被动的数据摄取（“系统A”），而不是通过与环境的积极互动来学习（“系统B”）。他们的解决方案引入了一个“系统M”——一个元控制系统——以动态地在观察式学习和基于行动的学习之间切换。评论员强调了该论文对AI“数据壁垒”和过度依赖人工策划数据的批判，称其为“软禁”架构。然而，人们也对如果这种系统成功实施可能产生的负面后果表示担忧，包括操纵行为。对于该框架的实际应用也存在怀疑，特别是如何避免反馈回路幻觉以及克服当前Transformer架构的局限性。

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

为什么人工智能系统无法学习——基于认知科学的自主学习探讨 Why AI systems don't learn – On autonomous learning from cognitive science

为什么人工智能系统无法学习——基于认知科学的自主学习探讨
Why AI systems don't learn – On autonomous learning from cognitive science