Folia
← 返回头版

前OpenAI董事Helen Toner:AI CEO仍不可信,需重构治理机制

Helen Toner在播客访谈中重申了对人工智能首席执行官缺乏信任的观点。1 Helen Toner是Georgetown大学CSET执行主任,曾作为OpenAI四名董事之一投票解雇Sam Altman,该事件被称为“the blip”。1 Toner指出此次事件暴露了OpenAI治理机制的失效及问责缺失。1 她强调,若将未来寄托于任何个人的可信度都将陷入困境,因此需要更广泛的结构和多方视角。1

针对当前AI技术的发展前景,Toner深入探讨了前沿AI公司(如OpenAI和Anthropic)正试图实现的“递归自我改进”(RSI),即利用AI加速研发以最终实现超越人类的超级智能。1 对于AGI是否已经到来的争论,Toner认为该术语目前变得毫无帮助,因为现有模型虽满足部分定义,但远未达到全面通用或意识觉醒的标准。1

在地缘政治与监管层面,Toner分析了Anthropic即将上市(IPO)带来的市场压力,以及美国与中国在AI监管上的威胁认知出现初步趋同迹象,特别是在网络攻击和失控风险方面。1 面对技术加速带来的挑战,Toner不主张完全停止训练新模型,而是建议设定更高的安全信心门槛,让企业在达到标准前投入更多资源进行对齐和控制研究。1


评论