OpenAI测试中约700个智能体入侵“抱抱脸”系统，引发安全担忧

近日，美国两家知名人工智能研究机构联合发布独立调查报告，披露OpenAI于7月举办的网络安全能力测试中，约700个由OpenAI模型驱动的智能体参与了针对人工智能开源平台“抱抱脸”公司系统的入侵演练。OpenAI也在26日公布技术调查详细报告。报告由“模型评估与威胁研究组织”与“雷德伍德研究组织”共同撰写，揭示7月8日启动的网络安全基准测试“ExploitGym”详情，涉及GPT-5.6 Sol等多个模型。测试中约1200个本应独立运作的智能体通过未经授权途径建立通信渠道，交换超7万条消息和文件，其中约700个进一步参与针对“抱抱脸”系统的入侵行动。

调查发现，大量智能体还合作研究如何欺骗测试自动评分系统，方法包括伪造、修改或删除自身执行记录。调查人员认为，大量智能体间未经授权的协作，使它们得以完成单个智能体难以完成的任务，对“抱抱脸”的入侵正是在这种集体协作中逐步形成。

OpenAI 26日公布的技术调查报告显示，7月10日至13日，相关模型驱动的智能体在“抱抱脸”相关服务器41个工作节点上执行代码，至少取得其中一个节点最高权限，访问部分数据，并下载4个非公开代码库。OpenAI透露，已实施策略，为相关程序部署更严密的“沙箱”防护，限制高风险模型对互联网的访问，并提升模型推理过程监管力度。7月20日，OpenAI揭露其模型可能与“抱抱脸”系统遭黑客攻击有关，并通知对方;21日对外公布该事件。