近期的一场 Hacker News 讨论凸显了人们对谷歌 AI 搜索摘要日益增长的不满，用户反映该功能经常“产生幻觉”，提供虚假信息。批评者指出，这些错误五花八门，从编造不存在的产品功能，到生成荒谬且具有诽谤性的传记，应有尽有。 争议的焦点之一是这些 AI 工具的透明度。用户指出，谷歌将“AI 可能会出错”的免责声明隐藏在一个可折叠菜单后，实际上对大多数搜索者掩盖了这一警告。 这场辩论还延伸到了 AI 生成内容的法律和伦理影响。评论者引用了布鲁斯·施奈尔（Bruce Schneier）的观点，认为企业不应将事实错误归咎于 AI。许多用户拒绝使用“幻觉”这一术语，认为这是一种为企业推卸责任而使用的委婉语，并将其视为系统未能优先考虑准确性、反而优先考虑“可能性”输出的根本性缺陷。尽管一些人认为社会必须学会适应 AI 的不可靠性，但另一些人则坚持认为，企业必须对其工具呈现为事实的信息承担法律和伦理责任。