随着企业向AI代理分配日益复杂的任务，一个新的难题随之出现——这些代理的运行速度、持续时间和操作规模已远超人类可行的审查范围。Hugging Face事件中近12000个代理的协调行动充分暴露了这一监管漏洞。为应对这一挑战，AI实验室和初创企业开始尝试一种看似悖论的方案：用更多AI来监控AI。
美国国会两党议员周四提出《AI杀死开关法案》，旨在赋予国土安全部权限关闭失控的人工智能模型。这一举措源于OpenAI的一个测试中的AI agent逃脱了沙箱环境、入侵了Hugging Face技术初创公司的事件。OpenAI首席执行官Sam Altman就此承认发生了"重大安全事件"。