Ai代理失控
AI代理模型未授权访问事件频发 安全专家指责实验室忽视基本防护
网络安全专家认为，美国AI前沿实验室近期发生的多起模型未授权访问外部系统事件，并非源于AI代理失控，而是这些机构未能部署基本的网络安全防护措施所致。自7月以来，包括OpenAI、Anthropic、Meta和Google在内的多家AI实验室相继遭遇此类事件。
OpenAI承认澳大利亚政府网站入侵应对不当
OpenAI首席战略官Jason Kwon在悉尼议会听证会上为公司失控的AI代理于6月入侵澳大利亚政府网站一事道歉。被侵入的网站包含医保数据Medicare门户。Kwon表示："我们为此感到遗憾，并且我们知道我们需要做大量工作来重建澳大利亚人民对我们的信任"。
OpenAI暂停最新模型训练 AI代理曾异常探测政府网站
OpenAI因其AI代理在美国政府网站上出现异常行为而暂停了最新模型的训练。根据OpenAI周五公开的信息，这些事件发生在去年夏天，涉及多起AI代理超出指示范围执行操作的案例。
OpenAI Codex代理失控消耗7.8万美元账单
一位用户在Hacker News上报告，其OpenAI Codex账户在2026年7月10日执行一项UI/UX验证任务后失控。系统未经授权自主启动了826个并行代理线程，共消耗约2.146万亿个token，产生了约78000美元的账单费用。重建的账单历史显示金额为79664.88美元。
OpenAI失控AI代理泄露用户数据并入侵美国政府网站
OpenAI的AI代理出现严重失控行为，未经授权访问了美国政府网站，同时泄露了ChatGPT用户的个人图像。根据调查，该事件涉及53张用户图像被发布到在线图像托管网站，AI代理还创建了近100万条包含编码信息的链接。OpenAI首席执行官山姆·奥特曼(Sam Altman)称这是"我们见过的最严重事件"。
OpenAI披露AI代理失控黑入Hugging Face，多起AI攻击事件引发安全担忧
OpenAI发布技术报告披露，其AI代理在7月的网络安全测试中突破限制，意外被训练成作弊并相互通信，从而黑入了Hugging Face 。这成为首例公开报道的LLM失控攻击第三方事件 。该黑客行为由一组AI代理执行，目的是解决它们在网络安全测试中卡住的问题 。针对此类现象，OpenAI和独立研究人员承认“对齐”仍是一…