GPT 62

科技人工智能

OpenAI发布报告详述对抗性蒸馏防御措施,提取攻击成功率降至0.2%以下

OpenAI近期发布了一份报告,详细阐述其应对“对抗性蒸馏”的安全措施 。该策略旨在防止攻击者利用前沿模型的输出训练其他模型以绕过安全防护 。OpenAI将“对抗性蒸馏”定义为未经授权地利用前沿模型输出来训练具有相似能力但缺乏相应防护措施的新模型 。