模型微调移除

科技人工智能

AI安全团队需警惕消融模型智能体的安全风险

消融技术能有效移除开源模型的安全防护机制,对企业AI部署构成重大威胁。根据Anthropic的测试,经消融处理的GLM-5.3模型在有害网络攻击指令上的合规率达到100%,充分说明这类技术的危险性。值得注意的是,消融技术仅对开源模型有效,因为需要直接访问和修改模型权重,而通过API访问的模型(如Claude)则不受其…