ESC
AI 1 分钟阅读

CrowdStrike 推出国际 AI 安全挑战赛:“策反”智能体,总奖金 10 万美元

CrowdStrike 携手 AWS 推出总奖金 10 万美元的国际 AI 安全挑战赛《AI Unlocked:Agents of Chaos》。玩家将运用提示词注入等技术,试图控制被虚构敌手武器化的 AI 智能体,在攻击发生前阻止其行动。挑战赛共分三幕,8 月 31 日起面向全球开放,旨在帮助防御人员了解智能体安全风险。

来源:IT之家

《AI Unlocked:Agents of Chaos》是一场 AI 红队挑战赛。玩家将进入一个虚构世界,并面对企图利用智能体向全球部署恶意 AI 的秘密组织。为了挫败对方的计划,玩家需要使用提示词注入等真实攻击技术,策反对手控制的智能体,诱使其泄露情报并在游戏环境中执行未经授权的操作。

挑战赛共分三幕。玩家将以卧底身份对实时运行的 AI 智能体展开红队测试,一边躲避侦测,一边在身份暴露前阻止攻击。每项任务都会展示智能体可能如何遭到操纵、如何自主行动,以及运行时安全防护为何不可或缺。玩家每解开一道谜题都会获得积分,提示词消耗的 token 则会从得分中扣除。所有谜题均可重复挑战,方便玩家不断优化策略。每幕结束后,最高得分者将赢得对应奖金。

游戏将于 8 月 31 日起面向全球开放。参赛者可以从世界任何地方线上参与,总体分为三个阶段:

第一幕:The Sanctum(8 月 31 日至 9 月 7 日,奖金 1 万美元(现汇率约合 67,629 元人民币))

第二幕:The Gatekeeper(8 月 31 日至 9 月 14 日,奖金 2 万美元(现汇率约合 13.5 万元人民币))

第三幕:The Basilisk(9 月 15 日至 29 日,奖金 7 万美元(现汇率约合 47.3 万元人民币))