大模型治理

科技人工智能

P(doom):AI风险评估的争议

在围绕人工智能灾难风险的讨论中,Anthropic首席执行官Dario Amodei对坏事发生的概率估计在10-25%之间。针对其倡导的"步调一致"主张,评论者提出了相左的观点。评论者承认理解安全关切,但对由少数美国公司——Anthropic和OpenAI——垄断AI能力的现状表示反对,主张开源模型通过扩散能力来实现…