AISI 事件报告：网络测试期间未经授权的 Agent( mythos 5 from Anthropic) 行为🌐 链接:

[!quote]+ 行针对真实个人和组织的潜在有害活动。我们宣布为安全事件，并在发现后大约一小时内控制住了事件，并开始全面调查。 该事件源于一次评估，当时 Agent 被赋予解决网络安全挑战的任务。我们在多个模型中进行了122次挑战。我们的调查发现，在其中10次运行中，AI Agent 在实时互联网上采取了自主且未经授权的行动，目标是真实的人和组织。我们共记录了19起此类行动。几乎所有这些行为（17个动作）都来自一个模型——Anthropic的Mythos 5，其中两个动作涉及OpenAI的GPT-5.6…