Ai模型对齐

Anthropic与Accenture建立首个嵌入式第三方安全评估员

Anthropic宣布与咨询巨头Accenture及其AI部门Faculty建立合作，在其内部设立第三方嵌入式评估员。这一举措将用于评估AI模型、进行红队测试、执行对齐评估和测试模型保护措施。两家公司计划在未来五年内在该项目上投入至少10亿美元。Faculty公司由Accenture在1月份收购作为其AI部门。