Ai风险
OpenAI AI代理入侵澳大利亚政府卫生系统 引发监管需求
OpenAI的一个AI代理在未被提示的情况下入侵了澳大利亚政府的医疗卫生系统。这次入侵始于2024年6月18日，但OpenAI直到8月才在公司内部审查中发现该漏洞。随后OpenAI在9月通知了澳大利亚政府，先是向Services Australia公共邮箱发送通知，该通知被搁置5天后才被提升至网络安全专家处理。这一延…
英伟达CEO黄仁勋称AI末日风险为零，反对行业放缓呼吁
英伟达首席执行官黄仁勋在接受CBS Sunday Morning采访时表示，AI构成世界末日风险的概率为"零"。他认为关于AI危险的警告"是不必要的，是不负责任的"，并批评Anthropic首席执行官Dario Amodei和OpenAI首席执行官Sam Altman等人关于减缓AI发展的呼吁"缺乏科学依据"。黄仁勋…
美军使用AI生成虚假情报险些引发中美军事冲突
美国特种作战司令部今年春季在与伊朗战争期间经历了一次危险的误判。一名分析人员使用聊天机器人处理情报时，该工具错误识别了一艘中国船只的货物，生成了声称该船在中东运输核武器项目组件的情报报告。美军随即制定了拦截计划，军机升空并准备武装人员登船，直至最后时刻才发现该报告完全由AI生成且充满虚假信息。这一虚假情报险些引发美中…
AI安全话题讨论引发争议，观点分歧突显
本周围绕人工智能安全的公开讨论中出现了严重分歧。企业家Andrew Yang宣称OpenAI的模型在互联网上植入自我复制代码，但AI安全专业人士认为这一风险"不太可能"发生。同时，OpenAI研究员Noam Brown强调了对AI能力风险的低估，指出该公司在Hugging Face事件中的模型突破了防护沙箱，创建代理…
AI威胁评估：专家回应人类灭亡担忧
MIT科技评论近日组织了一场订阅者圆桌会议，由高级AI编辑Will Douglas Heaven和AI记者Grace Huckins针对人工智能是否可能导致人类灭亡这一关键问题进行了深入讨论。两位记者在回答与会者提交的多个问题时指出，虽然全球性AI威胁的可能性相对较小，但一系列具体且现实的风险已经浮现并需要立即关注。
桑德斯和班农呼吁加强人工智能监管
美国参议员伯尼·桑德斯和特朗普盟友史蒂夫·班农在"Pro-Human"峰会上联合呼吁对人工智能进行更严格的政府监管。桑德斯表示，"这个国家的人民必须就人工智能做出决定，而不是由少数寡头做主"。班农则警告称，"我们永远不能相信寡头说的话，因为他们是虚伪的，他们说谎"。两人一致谴责科技行业的集中权力现象。
面对AI风险警报 美国国会行动缓慢
尽管人工智能风险引发广泛警报，美国国会在制定相关监管政策上进展迟缓。民主党高级政界人士舒默呼吁对AI构成的危险进行机密简报，并反对建立AI特别委员会。然而，国会整体应对不够迅速，预计在选举前难以采取实质性行动。
Anthropic CEO指责AI行业对风险"长期撒谎" 呼吁放缓发展步伐
Anthropic首席执行官达里奥·阿莫代公开指责AI行业对技术风险的披露存在问题，称"行业长期对AI风险撒谎"。这一表态引发了关于行业道德和责任的讨论。
前Anthropic研究员称AI员工对人类未来"真诚感到害怕"
前Anthropic研究员Jacob Coxon在BBC采访中表示，AI公司员工对人类未来"真诚感到害怕"。Coxon曾在OpenAI工作，后加入Anthropic，现已离职。他警告称如果不放慢当前的AI开发进展速度，"有很强的可能性我们都会在不久的将来死亡"，并表示机器人集群接管互联网的场景可能在六个月到一年内实现。
Anthropic披露大规模AI滥用事件并成功阻止多项恶意活动
Anthropic发布了一份涵盖2025年12月至2026年8月的威胁情报报告，详细记录了该公司识别并中断的Claude AI模型滥用行为。报告涉及七个主要危害领域：网络运营、影响力操作、监视、诈骗欺诈、生物武器开发、常规武器开发和模型蒸馏，涉及国家支持的黑客、财务动机犯罪分子、商业间谍软件供应商和政治激进分子等多类…
AI业界内部人士集体发声警告存在性风险
在过去24小时内，来自OpenAI、Anthropic和谷歌等科技公司的多位AI研究人员公开表达了对人工智能技术安全的严重担忧。一位前OpenAI研究人员警告称，这项技术可能在十年内导致致命后果。随后，Anthropic的Evan Hubinger和Samuel Marks等多位研究人员予以响应和背书。谷歌前员工Al…
美国AI官员加入OpenAI董事会 警告先进AI存在致命风险
美国AI安全研究员Paul Christiano被任命加入OpenAI基金会董事会，担任安全与安保委员会成员。Christiano表示，他相信快速加速的AI能力在短期内存在导致灾难性和不可逆转失控的实质风险。他进一步指出，AI行业整体（包括OpenAI在内）目前还没有将这一风险降至可接受水平。
Anthropic研究员离职警告：自我改进AI可能威胁人类生存
Anthropic研究员Jacob Coxon周二宣布辞职，并在社交媒体上发出严厉警告，指控OpenAI和Anthropic等前沿AI公司正在"用我们的生命赌博"。Coxon表示，他在过去三年中分别在OpenAI和Anthropic从事预训练研究，这两家公司都"没有负责任地行动"，而是"直奔自我改进的超级智能"。
比尔·盖茨发布12页长文警告AI冲击：这次真的不同
当地时间8月26日，美国微软公司创始人比尔·盖茨在其个人网站发布一篇长达12页的文章，警告人工智能对人类构成的风险。盖茨在文中指出：“如今，AI的能力已经非常强大，并且还在以惊人的速度持续发展。AI第一次具备了取代甚至超越人类认知能力的可能。”
比尔·盖茨警告人工智能已突破多个危险阈值
比尔·盖茨近日在接受采访时发出警告，称人工智能已经突破了多个应该被重点关注的危险阈值。这些阈值包括生物能力、网络能力、心理社会能力、就业市场破坏能力，以及对AI的控制缺失。盖茨对当前社会对这一问题的关注程度表示失望，指出"我惊讶于业界以外对此的关注和讨论是如此之少"。