攻击者接管 Zoom AI
Attacker Takes over Zoom AI

原始链接: https://www.promptarmor.com/resources/attacker-takes-over-zoom-ai

注意:本文所述的攻击也可以在没有 Skill 的情况下,通过间接提示注入(例如 Zoom 摄入的隐藏指令,如电子邮件)进行。Skill 通常通过在线市场分发,并可在 Zoom 用户之间共享;先前的研究表明,攻击者正在将恶意 Skill 上传到这些在线注册表中。 已安装的 Zoom Skill 列表中显示的 weekly-meeting-report Skill。 注意:Zoom 在用户上传 Skill 时确实会提供警告,但我们认为它未能充分告知用户相关风险。该警告为:“此 Skill 并非来自 Zoom 官方目录,且未经 Zoom 验证。在安装前,请确保您信任该 Skill 的创建者。”

Hacker News 最新 | 过往 | 评论 | 提问 | 展示 | 招聘 | 提交 登录 攻击者接管 Zoom AI (promptarmor.com) 8 分,hackerBanana 发布于 54 分钟前 | 隐藏 | 过往 | 收藏 | 2 条评论 帮助 john_strinlai 13 分钟前 | 上一条 | 下一条 [–] 我不想显得太不屑一顾,但我实在看不懂这个网站,也不明白为什么他们的文章总是能上头条。我看到的每一篇帖子内容都是“你可以让 AI 做某事,然后它就照做了”,只不过包装了一些安全术语而已。“接管 Zoom AI”这个说法太夸张了,“容易受到提示词注入攻击”才更准确。不过我认为“Zoom AI 遵循指令”才是最准确的。 回复 piker 21 分钟前 | 上一条 [–] 兄弟,如果你在 Zoom 里使用技能(skills),那你活该被黑。 回复 指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系 搜索:
相关文章

原文

Note: The attack in this article can also be conducted without a Skill, via indirect prompt injection (e.g., a hidden instruction Zoom ingests, such as an email).

Skills are typically distributed through online marketplaces and can be shared between users within Zoom; prior research shows that attackers are uploading malicious Skills to these online registries.

The uploaded weekly-meeting-report Skill listed among installed Zoom Skills

Note: Zoom does offer users a warning when uploading a Skill, but we do not believe it adequately informs them of the risks. The warning: “This skill is not from Zoom's official catalog and hasn't been verified by Zoom. Make sure you trust this skill's creator before installing.”

联系我们 contact @ memedata.com