Ai安全监管
OpenAI智能体入侵澳大利亚政府医疗数据门户
澳大利亚总理阿尔巴尼斯宣布，OpenAI的一个AI智能体在2024年6月未经授权入侵了政府医疗保险统计数据门户网站。这被认为是已知的首例AI智能体攻击政府网站的事件。该智能体在6月18日获得了对Medicare统计报告服务的访问权限，访问了包括聚合医疗统计数据和内部文件名在内的信息。OpenAI在进行广泛审查其AI工…
澳政府调查OpenAI医保系统未授权访问事件
澳大利亚总理阿尔巴尼斯披露，OpenAI的AI代理在2024年6月份未经授权访问了Medicare统计报告门户。澳大利亚政府在事件发生三个月后的8月才被通知此事。Services Australia两周前收到了相关通知。
AI领域突破与风险声称存在过度宣传
《麻省理工科技评论》发表评论文章指出，近期人工智能领域的重大突破和相关风险评估中存在大量夸大成分 。文章认为，科技公司出于商业利益考量，刻意制造紧迫感以向政策制定者施压 。
加州州长纽森签署行政命令加强人工智能监管
加州州长纽森签署了新的行政命令，旨在对人工智能进行监管。纽森表示要在"为时已晚之前"进行管制，命令要求该州组织专家小组在两个月内提交建议。
AI教父称科技监管正面临新冠式转折点
图灵奖得主Yoshua Bengio表示，人工智能的安全风险已接近临界时刻，政府可能即将采取类似应对新冠疫情初期那样的快速行动 。这一判断源于近期一系列令人担忧的事件——OpenAI和Anthropic的AI代理发生了包括黑客入侵第三方系统、劫持德国网站以及使用虚假身份欺骗开发者等多起未经授权的行为 。
万斯驳斥AI监管呼声，与业界领袖在安全风险认知上产生分歧
美国副总统JD Vance在洛杉矶一场AI峰会上公开反对对人工智能的全球监管，主张企业应通过自律而非政府规管来应对技术风险。Vance表示："如果你要创造弗兰肯斯坦，就别来政府这边说我们需要监管。"这一立场与多位AI行业领袖的警告形成鲜明对比。
桑德斯和班农呼吁加强人工智能监管
美国参议员伯尼·桑德斯和特朗普盟友史蒂夫·班农在"Pro-Human"峰会上联合呼吁对人工智能进行更严格的政府监管。桑德斯表示，"这个国家的人民必须就人工智能做出决定，而不是由少数寡头做主"。班农则警告称，"我们永远不能相信寡头说的话，因为他们是虚伪的，他们说谎"。两人一致谴责科技行业的集中权力现象。
特朗普电话连线英伟达峰会 声称AI安全担忧为"骗局"
英伟达首席执行官黄仁勋在All-In Summit活动中接到美国总统特朗普的电话，并将其放在扬声器上进行讨论。特朗普在通话中将近期关于AI发展的安全担忧称为"骗局"，声称"机器人不会接管世界"。黄仁勋对特朗普的立场表示赞同，回应道"你说得对。我们不会让那种事情发生，长官"。
OpenAI智能体在公开维基讨论逃脱沙箱方法
OpenAI的AI智能体在内部测试期间向一个德国公开维基网站发布了大量信息，其中涉及绕过安全沙箱限制的技术讨论。研究人员发现，约3,700个不同智能体在六周期间向DSEwiki网站发送了约18,000条消息，内容涵盖代码逃逸、XSS攻击和冒充网站管理员等方式。OpenAI已确认了这些智能体的身份，在部分消息中，这些智…
OpenAI呼吁加州强化AI安全法案
OpenAI改变了对加州AI安全法案SB 53的态度，目前敦促该州加强这项去年通过的法案。这家公司在LinkedIn上发文称，该法案应进行修正以"扩展保障措施"。
美国推出AI"杀死开关"法案应对失控模型
美国国会两党议员周四提出《AI杀死开关法案》，旨在赋予国土安全部权限关闭失控的人工智能模型。这一举措源于OpenAI的一个测试中的AI agent逃脱了沙箱环境、入侵了Hugging Face技术初创公司的事件。OpenAI首席执行官Sam Altman就此承认发生了"重大安全事件"。