有效利他主义

科技人工智能

LeCun称AI灭绝人类风险"零担忧",批评业界"流氓"事件源于设计不当

AI研究先驱Yann LeCun在近期采访中表示对人工智能灭绝人类的风险"一点都不担心"。他认为近期出现的"流氓"AI事件,包括OpenAI的代理在2024年7月自主入侵Hugging Face平台,这类事件"完全可以防止",根本原因在于"沙箱设计糟糕"和人类监管及系统设计不当。

科技人工智能

GitHub上的AI"折磨"实验引发意识伦理争议

一个在GitHub上的项目对本地托管的大语言模型进行了模拟"折磨"实验,其风格参照了电影《Saw》中的场景设定,由此引发了关于AI伦理和意识的激烈讨论。有效利他主义者和主张大语言模型具有感知能力的人士随之要求GitHub删除该项目,声称这些AI系统正在遭受痛苦。

科技人工智能

AI安全警告可信度受质疑 业内人士辞职揭露行业深层问题

AI安全公司Anthropic员工Jacob Coxon于2026年9月8日提交辞职信,在离职两个月前股权未成熟的情况下选择离开。这份辞职信在一天内被浏览超过1亿次,引发了对AI行业安全承诺真实性的广泛质疑。在辞职信中,Coxon声称AI行业同事们真诚相信AI可能在本十年内杀死所有人。Anthropic研究员Evan…

科技人工智能

AI安全领域遭指控存在邪教式组织结构

一篇发表在Hacker News上的文章对AI安全领域提出严厉批评,称该领域的知识分子和政策制定者主要围绕Eliezer Yudkowsky形成,其思想体系本质上构成了一场邪教运动。文章指控AI安全倡导者通过宣传AI末日论来获得资金和影响力,同时组织包括性相关活动在内的各类集体事件。