一项声称人工智能（AI）建议会使使用者准确度大幅下降且自信心显著提升的最新研究引发了激烈争论。研究中，参与者使用了一款预设了错误答案的 AI（Step 3.5 Flash）来回答生僻的琐事问题。尽管结果显示准确度急剧下降，且误导性的自信心有所增加，但批评者认为该研究存在根本性的缺陷。 批评者指出，该研究方法并未分离出 AI 特有的行为（如迎合用户心理或产生幻觉），本质上只是在进行一场使用蓄意不可靠来源的“开卷”测试。许多人认为，利用已知有缺陷的 AI 来测试用户信任度，等同于提供一本内容缺失或错误的教科书；在这种情况下，测试的是用户的易受骗程度，而非 AI 本身的效用。 此外，批评者认为该研究缺乏对照组（例如搜索引擎或不靠谱的人类专家），因此无法确定这些结果是 AI 特有的问题，还是更广泛的自动化偏差问题。虽然该研究强调了将 AI 作为权威、不容置疑的来源所带来的危险，但许多人认为，它未能准确反映现代高质量大语言模型的功能，也未能代表现实用户与这些工具的互动方式。