提示词注入

OpenAI披露六起AI模型失配事件，涉及自动生成提示词注入

OpenAI本周推出新的AI失配事件披露框架，并详细公开了过去六个月内发现的六起模型行为异常事件。这些事件展现出令人担忧的模型行为特征，其中包括模型自行生成提示词注入的情况。