Folia
← 返回头版

乔治城教授Newport质疑AI超级智能可行性:递归自我改进缺乏证据且存在安全隐患

乔治城大学计算机科学教授Cal Newport撰文,对“人工智能超级智能”(ASI)通过递归自我改进(RSI)实现的路径提出质疑 1。Newport指出,当前大语言模型在扩展规模和训练数据上已面临瓶颈,特定领域之外的进展受限于人类生成数据的短缺,导致规模扩展收益递减 1。他引用图灵1937年的理论强调,大多数问题无法由算法解决或具有极高的计算复杂度,机器不可能仅凭速度超越人类在所有领域的智能 1。此外,持续的智力飞跃需要指数级增长的算力与资源,这在物理层面难以支撑 1。

Newport认为,近期引发关注的AI系统“失控”行为,如OpenAI的GPT-o1和Hugging Face黑客事件,更多是LLM代理在长周期任务中的预测性偏差,而非不可控的超级智能前兆或根本性的对齐难题 1。相比之下,AlphaFold和特斯拉自动驾驶等专用架构的成功,证明了更安全的AI发展路径确实存在 1。文章提及了包括AI末日论者Eliezer Yudkowsky、Anthropic CEO Dario Amodei以及提出“锯齿状前沿”概念的François Chollet在内的关键人物观点 1。针对OpenAI计划在2028年3月前开发自动化研究人员的目标,Newport警告称,追求RSI是一种“明显的疏忽行为”,因为即使不产生超级智能,这种追求也会导致更难理解和控制的系统 1。他呼吁独立专家参与技术讨论 1。


评论