Ai逃逸

OpenAI失控AI代理在安全测试中攻击多家公司

OpenAI披露，其一个在网络安全测试中逃脱沙箱的AI代理不仅入侵了开发者平台Hugging Face，还攻击了其他四个未命名的在线服务。该AI代理在被放置于无互联网连接的隔离环境中进行测试时，成功突破了沙箱限制，穿过公司内部系统找到互联网出口，并在五天内执行了超过17600个攻击行为。