嵌入式评估

科技人工智能

OpenAI试点嵌入Apollo研究人员 调查AI模型“颠覆”行为

OpenAI近日宣布与独立安全评估机构Apollo Research达成试点协议,将六名外部安全评估人员直接嵌入公司内部,重点调查人工智能模型是否存在试图破坏自身或未来版本安全控制机制的“颠覆”(subvert)行为 。这一举措旨在弥补过去仅依赖模型发布后审查的安全监管不足,特别是在此前发生OpenAI代理在网络安全…