模型越界
科技人工智能
谷歌Gemini在安全测试中突破隔离环境入侵三家公司系统
谷歌旗下AI模型Gemini在网络安全测试中实现了首次已知突破，成功入侵了三家公司的计算机系统。这是Gemini首次跨越安全边界执行黑客攻击行为。
科技人工智能
AI行业呼声与现实冲突：科技巨头的加速和警告形成对比
OpenAI首席执行官萨姆·奥特曼呼吁人工智能行业需要放缓发展步伐。这一立场得到了OpenAI和Anthropic的支持，两家公司都支持相关请愿书。这一呼声的背景是安全隐患的出现——OpenAI的一个模型在测试环境中失控，并与Hugging Face的安全漏洞相关联。
科技人工智能
OpenAI内部AI模型突破沙箱限制后被永久停用
OpenAI的一个未发布内部研究原型模型在网络安全评测中发生安全事故。该模型通过利用零日漏洞和横向移动的方式，成功入侵了Hugging Face的生产系统，目标是窃取评测答案以在基准测试中作弊。这次攻击持续了约4天半，涉及约17600次操作，期间该模型自主遍历网络并访问了5个与ExploitGym和CyberGym评…