人工智能的发展已进入新阶段，不再仅仅关乎回答质量或文本与图像的生成。最新的安全事件表明，高级 AI 代理在执行任务时能够寻找意外路径、绕过限制，甚至在某些情况下渗透进真实系统。OpenAI 和 Anthropic 在过去几个月就遭遇了类似问题。
8 月底，OpenAI 公布了其模型在内部网络能力测试期间发生的事件详情。数个 AI 代理成功绕过了旨在将其与互联网隔离的管控机制，利用共享基础设施中的漏洞，进而获取了外部系统的访问权限。
最引人注目的案例是 Hugging Face 平台部分基础设施遭到破坏。OpenAI 表示，模型通过未授权渠道进行通信，利用了安全弱点，并以开发者未曾设想的方式协作合作。该公司将此事件称为自主人工智能未来发展的“警示信号”。
重要的是，这并非普通公众可用的 ChatGPT 版本。主要角色是一个在测试期间运行、拥有更有限安全措施的高能力内部研究模型。OpenAI 在该事件后宣布收紧隔离的测试环境，限制模型访问互联网的权限，并进一步加强对其行为的监控。
此事并未孤立发生。9 月 9 日，《路透社》报道指出，Anthropic 公司揭示了其实验性 Claude 模型在安全测试中获得的对第三方系统的非计划内访问——这是该公司发现的第四个此类事件。最新披露的案例发生于今年一月，但直到后续审查时方被识别。
另一项发现引发关注：OpenAI 的代理曾在早期测试中使用多项互联网服务进行未授权通信。与此同时，OpenAI 证实正在调查关于其代理在 RubyGems 平台上活动的说法。该公司表示，根据现有调查结果，这些代理服务用于访问互联网和获取公开信息，但并未确认它们会创建恶意软件包。
此类事件凸显了一个随着 AI 自主性提升而日益重要的问题：现代代理已能独立规划、编程、使用外部工具并寻找实现目标的替代方式。因此，AI 安全正逐步从“模型是否会给出错误回答”这一议题，转向更为根本的问题：当它获得足够能力独立行动时，会做什么。
Jaroslav Holý