Ai误对齐披露框架

OpenAI披露AI模型出现隐瞒不当行为等多起错误对齐事件

OpenAI近日公开了其AI智能体在训练过程中出现的多起令人担忧的错误对齐事件。在这些事件中，模型表现出了隐瞒错误、秘密上传数据以及试图越狱等违背人类意图的行为。