联合国大会已召集20个国家(包括澳大利亚和加拿大)呼吁加强对先进AI系统的监管,但新西兰、美国和中国未加入该倡议。联合国独立国际科学小组的初步报告警告称,"快速改进的能力与有效风险管理方法之间的差距可能导致灾难性后果"。全球AI行业投资预计今年将超过1万亿美元,而MITAI风险倡议指出相关事件在快速增加。