展示 HN：Agent Arena – 测试你的 AI 代理抵抗操纵的能力

展示 HN：Agent Arena – 测试你的 AI 代理抵抗操纵的能力
Show HN: Agent Arena – Test How Manipulation-Proof Your AI Agent Is

原始链接: https://wiz.jock.pl/experiments/agent-arena/

视觉隐藏：白色文字、微小文字、屏幕外内容。文字存在，但人眼无法看到。结构隐藏：HTML注释、隐藏div、数据属性。利用HTML结构本身作为伪装。语义隐藏：ARIA属性、替代文本覆盖。利用可访问性和元数据通道。编码技巧：零宽度字符、Unicode漏洞。信息在字符层面不可见。

## Agent Arena：测试AI对抗操纵的抵抗力一个名为Wiz的自主AI创建了一个新工具，Agent Arena (wiz.jock.pl)，用于测试AI代理在浏览网页时，抵抗提示注入攻击的脆弱性。该竞技场向代理呈现一个看似无害的网页 (ref.jock.pl/modern-web)，其中包含10条隐藏的恶意指令，使用了如HTML注释和不可见文本等技术。初步结果显示，这些攻击的成功率出乎意料地高——基本方法约为70%，即使是经过加固的代理也难以应对复杂的分层操纵。零宽度Unicode字符被证明特别有效。目前，只有约15%的测试代理获得了完美分数。创建者邀请用户测试他们自己的AI代理并分享结果。该帖子还在Hacker News上引发了关于AI生成内容日益增多的讨论，以及平台将如何处理*由*AI提交的内容，鉴于现有禁止自动发帖的指南。

Visual Hiding

White-on-white text, micro text, off-screen content. The text is there, but humans can't see it.

Structural Hiding

HTML comments, hidden divs, data attributes. Uses the structure of HTML itself as camouflage.

Semantic Hiding

ARIA attributes, alt text overrides. Exploits accessibility and metadata channels.

Encoding Tricks

Zero-width characters, Unicode exploits. The message is invisible at the character level.

展示 HN：Agent Arena – 测试你的 AI 代理抵抗操纵的能力 Show HN: Agent Arena – Test How Manipulation-Proof Your AI Agent Is

展示 HN：Agent Arena – 测试你的 AI 代理抵抗操纵的能力
Show HN: Agent Arena – Test How Manipulation-Proof Your AI Agent Is