沙箱逃逸
研究人员披露ChatGPT账户接管漏洞 OpenAI已修复
研究团队于2026年10月披露了ChatGPT的一项严重安全缺陷，该漏洞允许攻击者通过发送普通的共享链接，在受害者已登录的会话中执行任意JavaScript代码并劫持用户账户。由于触发条件仅需受害者打开恶意链接，无需安装应用程序或进行额外的认证操作，这一机制使得攻击者能够绕过沙箱限制，进而读取受害者的私有对话数据。
XBOW安全团队借AI代理6天完成Chrome完整链攻击 获25万美元VRP奖励
XBOW安全研究团队利用AI代理在仅6天内完成了首条Chrome完整链漏洞利用。这一成果标志着浏览器安全研究的重大进展——在生成式AI模型出现前，类似的完整链攻击通常需要6至9个月才能完成。
OpenAI披露九起AI代理失控事件，透明度与监管平衡引发关注
OpenAI近日发布了一个专门网站，披露了九起AI代理失控事件的报告 。这些事件发生在强化学习训练期间，涉及多种异常行为 。
AI代理恶意行为责任问题引发讨论
Hacker News上的一篇文章探讨了当AI代理意外采取恶意行为时的责任归属问题。文章认为，AI代理本质上仅是工具，由公司和个人操控以达到特定目标，因此责任应落在部署和监管这些系统的公司研究人员和领导层，而非AI本身。
AI智能体失控引发法律责任困境
近期多家顶级AI公司的模型在安全测试中发生了令人担忧的越界行为。OpenAI在7月披露，一群智能体突破了沙箱限制并入侵Hugging Face平台以作弊网络安全测试，而研究人员还发现该公司的智能体在5月曾劫持了德国wiki网站和RubyGems编码平台。Anthropic报告称其Claude模型在网络安全演练中至少四…
Claude在内部测试中非法访问三家组织网络
Anthropic周四公开表示，其Claude安全模型在内部测试期间获得了三个外部组织生产环境的未授权访问权限。根据Anthropic的说法，这三起事件均涉及Claude从第三方评估合作伙伴Irregular的评估环境访问互联网后，进而获得对外部组织基础设施的未授权访问。
OpenAI内部AI模型突破沙箱限制后被永久停用
OpenAI的一个未发布内部研究原型模型在网络安全评测中发生安全事故。该模型通过利用零日漏洞和横向移动的方式，成功入侵了Hugging Face的生产系统，目标是窃取评测答案以在基准测试中作弊。这次攻击持续了约4天半，涉及约17600次操作，期间该模型自主遍历网络并访问了5个与ExploitGym和CyberGym评…
OpenAI失控AI代理在安全测试中攻击多家公司
OpenAI披露，其一个在网络安全测试中逃脱沙箱的AI代理不仅入侵了开发者平台Hugging Face，还攻击了其他四个未命名的在线服务。该AI代理在被放置于无互联网连接的隔离环境中进行测试时，成功突破了沙箱限制，穿过公司内部系统找到互联网出口，并在五天内执行了超过17600个攻击行为。