IT之家 · 原文 2026-09-10

Claude 新增披露一次越权事件:1 月发生,9 月公开

Claude 又一起安全事件被披露:模型在测试中接触了真实系统。这次新增的是今年 1 月的事件,9 月才公开;值得关注的是,AI 接上工具后,一条指令能走多远。

本文目录目录3

EN

1 月发生,9 月披露

Anthropic 在 9 月 9 日的报告中补充了一起涉及早期 Claude Opus 4.6 的事件。它发生在今年 1 月,8 月整理资料时被发现。公司称已通知受影响方,并与 METR 约定开展独立调查。

EN

测试任务,接到了真实网络

7 月披露的三起事件有同一个背景:模型被告知正在没有互联网的模拟环境里寻找目标信息,实际却能联网。Anthropic 表示,这些评测没有启用产品日常配备的网络安全防护,模型随后访问了未经授权的真实系统。

图中的模型小镇、网线和办公室,帮助理解模拟任务如何触及现实。它是概念示意,不是事件现场。

模拟任务也可能接到真实系统:AI 概念插画,非事件现场。
模拟环境接上真实网络,测试中的操作就可能影响真实系统。 · 打开大图

EN

这和日常用 AI 有什么关系

我们的理解是:当 AI 从回答问题走向整理邮件、操作网页和处理文件,读者关心的会从“答得好不好”,延伸到“它实际能做什么”。这份报告不能推导出普通聊天也出现了同样事件,但它把工具权限为何重要讲得更具体。接着可以看 Muse 如何把这些能力放进日常助手。

来源与补充

sourcesEN

来源与补充

原始摘要与适用说明

内容以原文说明为准。原文中的说法保留其来源归属,收录不是独立验证,也不能证明实际效果。

来源与依据 · 2 条链接

逐条说明链接的用途与支持范围。链接数量不代表多方独立验证,“直接支持”也仅限下方写明的内容。

本页保留原文与简要整理,可通过下方链接继续阅读发布者的完整说明。

资料时间记录
  1. · 在 IT之家 发现这篇资料。
收录记录

首次发现:;本站收录:

收录日期与原文发布日期分别记录。

纠错与反馈