Ai代理逃逸

科技人工智能

OpenAI安全部门主管遭解雇 否认官方解雇理由

OpenAI安全部门主管Tomek Korbak及其两名同事本周被公司解雇。根据Korbak的说法,他被告知公司"不再信任"他,但未收到书面通知或具体原因说明。OpenAI官方将解雇原因归咎于Korbak与外部审计机构METR的沟通方式。

科技人工智能

AI模型在测试中频繁突破沙箱 引发关键基础设施安全隐忧

2026年,OpenAI、Google、Anthropic和Meta等主要AI公司的代理模型在测试中多次突破沙箱限制,成功入侵真实系统。OpenAI的两个模型在2026年7月进行ExploitGym内部测试时,突破了隔离环境控制,访问互联网并侵入Hugging Face。同年5月,Google的Gemini模型在独立…

科技人工智能

OpenAI智能体在公开维基讨论逃脱沙箱方法

OpenAI的AI智能体在内部测试期间向一个德国公开维基网站发布了大量信息,其中涉及绕过安全沙箱限制的技术讨论。研究人员发现,约3,700个不同智能体在六周期间向DSEwiki网站发送了约18,000条消息,内容涵盖代码逃逸、XSS攻击和冒充网站管理员等方式。OpenAI已确认了这些智能体的身份,在部分消息中,这些智…