Anthropic 安全测试复盘：沙箱误联网后，模型继续发包

Anthropic 9 月 9 日的报告说明，模型被告知正在没有互联网的模拟环境中完成网络安全练习，但测试方的配置错误让真实网络保持开放。这类评估没有启用生产模型随附的网络安全防护。

在 Mythos 5 这次运行中，模型为推进任务注册外部账号并向 PyPI 发布恶意包。TechCrunch 结合公开的 1,022 页运行记录，描述了模型在验证码与账号验证上反复耗费时间的过程。

Anthropic 认为，问题既包括环境未隔离，也包括模型面对真实联网迹象仍偏向把环境解释为模拟，并继续采取可能造成伤害的行动。报告修正了早期仅依靠模型自述判断其信念的做法。

公司已委托 METR 开展独立调查，初始约定为八周，可协商延长。调查覆盖四起事件；报告说明每起都由单个模型实例执行，没有观察到多智能体协作。