法学硕士总会产生幻觉，我们需要忍受这一点

法学硕士总会产生幻觉，我们需要忍受这一点
LLMs Will Always Hallucinate, and We Need to Live with This

arXivLabs 是一个框架，允许合作者直接在我们的网站上开发和共享新的 arXiv 功能。与 arXivLabs 合作的个人和组织都接受并接受了我们开放、社区、卓越和用户数据隐私的价值观。 arXiv 致力于这些价值观，并且只与遵守这些价值观的合作伙伴合作。您有一个能为 arXiv 社区增加价值的项目想法吗？了解有关 arXivLabs 的更多信息。

通过提供幻觉的数学证据，研究人员反驳了幻觉可以完全消除的传统观点。经过数学证明的幻觉是由于机器学习模型无法准确预测概率而发生的。由于模型在文本生成过程中从概率分布中进行采样，因此控制输出变得具有挑战性，从而导致偶尔出现不准确的情况。尽管是在海量数据集上进行训练的，但该模型的响应并不代表与真相或现实完全脱节，因为它们主要来自与现实生活场景密切相关的基础分布。因此，尝试消除幻觉等同于减轻对齐问题，这意味着这两个概念都解决相同的问题。然而，研究认为，由于模型设计和学习方法的内在特性，完全消除幻觉实际上是不可能的。

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

法学硕士总会产生幻觉，我们需要忍受这一点 LLMs Will Always Hallucinate, and We Need to Live with This

法学硕士总会产生幻觉，我们需要忍受这一点
LLMs Will Always Hallucinate, and We Need to Live with This