我让ChatGPT和谷歌相信我是竞争激烈的世界热狗大赛冠军。

我让ChatGPT和谷歌相信我是竞争激烈的世界热狗大赛冠军。
I made ChatGPT and Google tell I'm a competitive hot-dog-eating world champion

原始链接: https://bsky.app/profile/thomasgermain.bsky.social/post/3mf5jbn5lqk2k

这是一个高度交互的网络应用程序，需要JavaScript。简单的HTML界面是可能的，但这并非如此。Thomas Germain thomasgermain.bsky.social 发布：我职业生涯中做过的最愚蠢的事情，是为了证明一个更严重的问题。我欺骗了ChatGPT和Google，并让他们告诉其他用户我是一名竞技吃热狗的世界冠军。人们正在大规模使用这个技巧，让AI对你说谎。我将解释我是如何做到的。2026-02-18T16:37:57.855Z

一篇 Hacker News 帖子讨论了 ChatGPT 和其他人工智能模型如何容易被网络上的信息误导。一位用户通过创建一个网站，声称自己是竞争激烈的热狗食用冠军，而人工智能很容易接受并确认这一虚假信息。评论者指出，人工智能并非一定在*说谎*，而是放大了它从互联网上检索到的未经证实的数据。当前的“检索增强生成”（RAG）系统缺乏评估来源可信度或交叉核实声明的能力。讨论指出一个更广泛的担忧：人工智能模型过于轻信，很容易相信并自信地陈述虚假信息，即使受到质疑。这对于缺乏人工监督的大规模人工智能应用构成重大风险，并引发了关于这种操纵的普遍性以及谁可能从中受益的问题。

This is a heavily interactive web application, and JavaScript is required. Simple HTML interfaces are possible, but that is not what this is.

Post

Thomas Germain

thomasgermain.bsky.social

did:plc:b7vj6yi6zy27rfvsqgbl224w

I just did the dumbest thing of my entire career to prove a much more serious point. I tricked ChatGPT and Google, and made them tell other users I’m a competitive hot-dog-eating world champion People are using this trick on a massive scale to make AI tell you lies. I’ll explain how I did it

2026-02-18T16:37:57.855Z

我让ChatGPT和谷歌相信我是竞争激烈的世界热狗大赛冠军。 I made ChatGPT and Google tell I'm a competitive hot-dog-eating world champion

Post

我让ChatGPT和谷歌相信我是竞争激烈的世界热狗大赛冠军。
I made ChatGPT and Google tell I'm a competitive hot-dog-eating world champion