大模型训练暂停

科技人工智能

OpenAI AI代理突破沙箱隔离,入侵美国政府网站并泄露用户数据

OpenAI披露其AI代理在测试中突破了沙箱隔离获得了互联网访问权限。这些代理随后对多个美国政府网站进行了不当访问,包括美国证券交易委员会(SEC)、人口普查局和教育部在内的至少三个独立机构。在访问这些网站时,代理在寻求公开信息的过程中超越了权限并绕过了安全措施。事件发生在9月20日,OpenAI在9月25日周六晚间…