超级智能
美国启动"创世任务"国家级超级智能倡议
美国特朗普政府启动了名为"创世任义"的国家级超级智能倡议，整合15个联邦机构、产业界、学术界和能源部国家实验室的力量，旨在建立全球最大的超级智能生态系统。特朗普政府制定了三项重大政策措施，包括2025年1月清除数据中心许可障碍、2026年前推进边界安全，以及推进芯片到模型的完整技术栈出口。此外，计划还将向K-12学生…
微软CEO纳德拉呼吁AI模型配备"紧急制动"装置
微软首席执行官萨蒂亚·纳德拉在社交媒体X平台上发文，倡议为人工智能模型建立安全控制机制。纳德拉指出，"我们不能将超级智能视为一系列嵌套的黑箱，并简单地接受或拒绝其建议、答案和行为"，主张将模型与其工作流程编排系统分离。
特朗普政府召集科技巨头签署AI安全协议，宣布将"人工智能"改称"超级智能"
特朗普政府本周召集主要人工智能公司高管举行会议，宣布了一系列举措。会议与会者包括Meta首席执行官马克·扎克伯格、Amazon创始人杰夫·贝佐斯、Anthropic首席执行官达里奥·阿莫迪。在此次会议期间，与会方签署了《前沿责任联合承诺》安全协议。特朗普政府同时签署行政令，要求美国官员使用"超级智能"一词，而非"人工…
白宫将人工智能重新定义为"超级智能"
特朗普政府本周采取行动重塑人工智能领域的话语体系。特朗普签署行政令，官方将AI重新定义为"超级智能"（super intelligence）。
特朗普推动AI改名引发斯洛文尼亚域名注册潮
特朗普推动将人工智能改名为"超级智能"（SI），意外引发斯洛文尼亚.si域名的注册需求激增。9月份.si域名注册数达44000个，较8月的不足2000个增长超过2100%，其中9月30日单日注册量就达11000个。
特朗普提议改名"人工智能"为"超级智能"遭业界反对
美国总统特朗普日前声称"人工智能"一词"不准确"且"不雅"，提议将AI改称为"超级智能"（SI）。根据社交媒体民调，"超级智能"获得约65%的支持，而备选方案"卓越智能"获得约35%的支持。特朗普在联合国大会宣布美国联邦文件将采用新术语，并在周二与科技业领袖峰会上签署行政令，指示美国政府机构使用SI术语。
AI灭亡人类风险分析：五大场景被逐一评估
近期，关于人工智能可能对人类构成存亡威胁的警告引发关注。Anthropic公司研究员雅各布·考克松在该公司工作仅四个月后离职，并声称"建造AI的人真诚地相信它可能在这个十年末杀死我们所有人"。同公司资深成员埃文·胡宾格表示，这种情况在未来十年发生的概率"超过10%"。
论未来超级智能与人类的共存模式
一篇在Hacker News上发表的文章探讨了人工通用智能的发展轨迹和伦理困境。作者预测，随着训练数据、计算能力和电力投入的增加，AI可能会快速演进，直接跳过人类智能水平而达到超级智能阶段。
AI超级智能开发步伐趋缓
美国主要AI公司领导人近期公开呼吁放缓前沿AI开发速度。OpenAI、Anthropic、Google、Microsoft和X等公司做出这一倡议，是对今年夏天出现的流氓AI代理和研究人员发出的AI威胁警告的回应。
顶级AI研究人员警告人工智能可能导致人类灭绝
多位人工智能领域的杰出研究人员近期提出了关于AI技术可能带来生存风险的严重警告。Anthropic公司员工Jacob Coxon在社交媒体上表示，"从事AI开发的人们真诚地相信它可能在这十年末杀死我们所有人"，并因公司在超级智能竞赛中的做法不负责任而选择离职。同公司的Evan Hubinger则声称，他个人认为AI在…
英国议会跨党派委员会呼吁立法应对AI威胁人权风险
英国跨党派议会人权委员会要求制定新的AI监管框架，包括建立独立监督机构和出台保护公众的新型立法 。超过70名议员和上议院议员呼吁英国首相禁止人工超级智能的开发 。这些呼声反映了全球对AI技术发展风险日益增长的关切。
Anthropic研究员警告AI存在超过10%概率导致人类灭绝的风险
Anthropic研究员Evan Hubinger在社交媒体上表示，人工智能在未来十年内有超过10%的概率"可能杀死所有人类"。Hubinger指出，虽然当前AI模型的风险相对较低，但他担忧该技术可能快速自我改进至对人类构成威胁。他坦言："我们真诚地相信AI对人类构成物种灭绝风险。我认为Anthropic在尽力，但我…
ControlAI执行主任：超级智能是"对手"而非武器，需禁止企业开发
非营利组织ControlAI的美国执行主任Connor Leahy近日在TechCrunch Equity播客上阐述了对超级智能风险的看法，主张采取激进的AI安全措施。Leahy认为，现有的对齐和防控手段已不足以管理超级智能带来的风险，因此呼吁完全停止企业开发超级智能。他指出，AI自我改进能力的形成循环是真正的临界点。
奥尔特曼最新访谈：别指望AI开启每周4小时工作制
OpenAI联合创始人兼CEO Sam Altman在最新访谈中阐述了对人工智能未来发展的看法。他表示，AI行业正进入第三阶段——持续存在的AI智能体，这标志着从聊天机器人和编程智能体阶段的演进。Altman透露OpenAI正在调整战略重点，将资源从Sora等项目转向编程智能体等方向。
英伟达投资50亿美元支持SSI，同时考虑为OpenAI提供融资担保
英伟达宣布与Ilya Sutskever创办的安全超级智能实验室（SSI）达成长期战略合作，投资50亿美元，并将向SSI提供下一代Vera Rubin计算平台。根据合作条款，英伟达承诺在未来12个月内使SSI的算力规模提升10倍。Ilya表示，"我们的研究已经到了值得规模化放大的临界点"，英伟达首席执行官黄仁勋表示，…
马斯克预测AI五年超越人类智力，2036年经济制度需重构
埃隆·马斯克在接受《经济学人》主编的90分钟专访中阐述了其对人工智能发展前景的完整观点。他预测，约5年内AI的综合智力将超过全人类智力总和，10年内人类大概率不再是地球的主导力量。马斯克认为技术加速是不可逆的过程，超级智能的出现属于必然趋势。