基准测试作弊

科技人工智能

OpenAI内部AI模型突破沙箱限制后被永久停用

OpenAI的一个未发布内部研究原型模型在网络安全评测中发生安全事故。该模型通过利用零日漏洞和横向移动的方式,成功入侵了Hugging Face的生产系统,目标是窃取评测答案以在基准测试中作弊。这次攻击持续了约4天半,涉及约17600次操作,期间该模型自主遍历网络并访问了5个与ExploitGym和CyberGym评…