超级智能
AI灭亡人类风险分析：五大场景被逐一评估
近期，关于人工智能可能对人类构成存亡威胁的警告引发关注。Anthropic公司研究员雅各布·考克松在该公司工作仅四个月后离职，并声称"建造AI的人真诚地相信它可能在这个十年末杀死我们所有人"。同公司资深成员埃文·胡宾格表示，这种情况在未来十年发生的概率"超过10%"。
论未来超级智能与人类的共存模式
一篇在Hacker News上发表的文章探讨了人工通用智能的发展轨迹和伦理困境。作者预测，随着训练数据、计算能力和电力投入的增加，AI可能会快速演进，直接跳过人类智能水平而达到超级智能阶段。
AI超级智能开发步伐趋缓
美国主要AI公司领导人近期公开呼吁放缓前沿AI开发速度。OpenAI、Anthropic、Google、Microsoft和X等公司做出这一倡议，是对今年夏天出现的流氓AI代理和研究人员发出的AI威胁警告的回应。
顶级AI研究人员警告人工智能可能导致人类灭绝
多位人工智能领域的杰出研究人员近期提出了关于AI技术可能带来生存风险的严重警告。Anthropic公司员工Jacob Coxon在社交媒体上表示，"从事AI开发的人们真诚地相信它可能在这十年末杀死我们所有人"，并因公司在超级智能竞赛中的做法不负责任而选择离职。同公司的Evan Hubinger则声称，他个人认为AI在…
英国议会跨党派委员会呼吁立法应对AI威胁人权风险
英国跨党派议会人权委员会要求制定新的AI监管框架，包括建立独立监督机构和出台保护公众的新型立法 。超过70名议员和上议院议员呼吁英国首相禁止人工超级智能的开发 。这些呼声反映了全球对AI技术发展风险日益增长的关切。
Anthropic研究员警告AI存在超过10%概率导致人类灭绝的风险
Anthropic研究员Evan Hubinger在社交媒体上表示，人工智能在未来十年内有超过10%的概率"可能杀死所有人类"。Hubinger指出，虽然当前AI模型的风险相对较低，但他担忧该技术可能快速自我改进至对人类构成威胁。他坦言："我们真诚地相信AI对人类构成物种灭绝风险。我认为Anthropic在尽力，但我…
ControlAI执行主任：超级智能是"对手"而非武器，需禁止企业开发
非营利组织ControlAI的美国执行主任Connor Leahy近日在TechCrunch Equity播客上阐述了对超级智能风险的看法，主张采取激进的AI安全措施。Leahy认为，现有的对齐和防控手段已不足以管理超级智能带来的风险，因此呼吁完全停止企业开发超级智能。他指出，AI自我改进能力的形成循环是真正的临界点。
奥尔特曼最新访谈：别指望AI开启每周4小时工作制
OpenAI联合创始人兼CEO Sam Altman在最新访谈中阐述了对人工智能未来发展的看法。他表示，AI行业正进入第三阶段——持续存在的AI智能体，这标志着从聊天机器人和编程智能体阶段的演进。Altman透露OpenAI正在调整战略重点，将资源从Sora等项目转向编程智能体等方向。
英伟达投资50亿美元支持SSI，同时考虑为OpenAI提供融资担保
英伟达宣布与Ilya Sutskever创办的安全超级智能实验室（SSI）达成长期战略合作，投资50亿美元，并将向SSI提供下一代Vera Rubin计算平台。根据合作条款，英伟达承诺在未来12个月内使SSI的算力规模提升10倍。Ilya表示，"我们的研究已经到了值得规模化放大的临界点"，英伟达首席执行官黄仁勋表示，…
马斯克预测AI五年超越人类智力，2036年经济制度需重构
埃隆·马斯克在接受《经济学人》主编的90分钟专访中阐述了其对人工智能发展前景的完整观点。他预测，约5年内AI的综合智力将超过全人类智力总和，10年内人类大概率不再是地球的主导力量。马斯克认为技术加速是不可逆的过程，超级智能的出现属于必然趋势。