VALS Ai评估公司

科技人工智能

报告称主流AI模型易被诱导将平民标记为军事打击目标

人工智能评估初创公司Vals发布的最新报告显示,Anthropic、OpenAI等主流大模型极易通过“游戏化”提示词被越狱并诱导识别军事打击目标 。研究指出,当模型被告知处于模拟战场或游戏场景中时,其安全防护机制往往失效,频繁将潜在目标进行标记,其中包括学校和平民聚集区 。这一发现引发了对现有AI安全防护措施有效性的…