最近的一场 Hacker News 讨论指出了一种日益严重的威胁：诈骗者正在“污染”ChatGPT、Gemini 和 Google AI Overview 等大语言模型，诱导用户联系欺诈性客服中心。 恶意行为者正利用人工智能生成大量复杂内容，如虚假支持页面、PDF 文档和经过优化的论坛帖子，并将其充斥于网络，意图被 AI 训练模型抓取。当用户向这些模型查询达美航空、大通银行或 Airbnb 等大型公司的联系信息时，AI 会轻信并将这些欺诈性的电话号码和链接作为权威的验证答案提供给用户。 评论者认为，这是搜索引擎优化（SEO）垃圾信息的一种危险演变。由于大语言模型缺乏评估源质量的批判性能力，且不断被灌输伪造的错误信息，它们已成为高效且低成本的宣传工具。谷歌的 AI Overviews 加剧了这一问题，该功能将这些不可靠的 AI 生成摘要推到了搜索结果的顶端。参与讨论者警告称，这为网络钓鱼创造了一个高信任度环境，使技术水平较低的用户尤为脆弱，因为传统的网站真实性标识（如 HTTPS 证书）已不足以验证 AI 工具所提供信息的准确性。