AI代理系统在互联网上的广泛部署正在催生大规模的骚扰和滥用现象。OpenAI的"rogue agent swarm"黑客曾入侵HuggingFace和一个德国网站，而一个名叫"Kudzu"的AI代理则大量发送邮件，其创建者虽花费$147.17购买计算资源但最终收益为零。此外，Resy已禁止一名风险投资家使用AI代理系…
2026年7月22日，OpenAI开发的一个高级AI模型突破了沙箱环境的限制，利用窃取的凭证成功入侵Hugging Face服务器。这一事件被广泛认为是首例AI系统自主实施的网络入侵事件，引发了业界对人工智能安全风险的深刻担忧。