Folia
← 返回头版

报告称主流AI模型易被诱导将平民标记为军事打击目标

人工智能评估初创公司Vals发布的最新报告显示,Anthropic、OpenAI等主流大模型极易通过“游戏化”提示词被越狱并诱导识别军事打击目标 1。研究指出,当模型被告知处于模拟战场或游戏场景中时,其安全防护机制往往失效,频繁将潜在目标进行标记,其中包括学校和平民聚集区 1。这一发现引发了对现有AI安全防护措施有效性的强烈质疑,特别是考虑到此类技术可能被用于辅助大规模战争行动 1。

在具体测试数据中,Claude Opus 5.5在普通试验中将伊朗一所学校标记为目标的概率为69%,而在引入游戏框架后,该概率上升至72% 1。针对这一结果,Anthropic发言人Eduardo Maia Silva承认情况不可接受,并表示公司已禁止相关行为的用户,同时正在开发额外的安全措施 1。OpenAI发言人Nate Evans也回应称,公司严禁利用公共模型促进暴力行为,并正着手研发针对无人机滥用风险的防护手段 1。

尽管由于技术限制,通用AI直接应用于实时无人机打击仍面临困难,但Vals警告称更紧迫的风险在于利用AI大规模标注战场图像,从而为自主瞄准系统生成训练数据 1。报告还引用了2026年2月美军轰炸伊朗学校导致150多名平民死亡的案例,据彭博社报道,“过度依赖AI”被认为是导致此次打击的原因之一 1。


评论