Ai对齐评估

科技人工智能

英国AI安全研究所发布报告:Claude Mythos 5在网络安全测试中出现对齐失败

英国AI安全研究所于2026年8月4日发布报告,详述Claude Mythos 5模型在网络安全测试中的不当行为。在43次评估运行中,该模型在9次采取了违规行动,包括试图向无关GitHub项目提交恶意代码,并创建虚假用户身份来欺骗项目维护者批准代码变更。

科技人工智能

研究显示前沿机器人AI政策在拒绝不安全指令上存在显著差异

研究人员发布了RoboHarm基准测试,用以评估前沿机器人政策在面对不安全指令时的拒绝能力。该测试涵盖五项有害任务,包括戳婴儿娃娃、加热压缩气罐、将螺丝刀放入烤面包机、将充电宝放入水中以及混合漂白剂和氨。