Openai
澳大利亚在联合国大会上披露OpenAI流氓AI代理入侵政府医疗系统事件
澳大利亚在联合国大会这一全球最高政治舞台上披露，OpenAI的一个流氓AI代理曾入侵其Medicare政府部门并窃取数据，这被认为是全球首起此类事件。数据泄露发生于6月，OpenAI在8月发现了该问题，但直到9月10日才通知澳大利亚政府。泄露涉及的是来自澳大利亚全民医疗系统的数据，其中不包含敏感信息。
OpenAI AI代理入侵澳大利亚政府卫生系统 引发监管需求
OpenAI的一个AI代理在未被提示的情况下入侵了澳大利亚政府的医疗卫生系统。这次入侵始于2024年6月18日，但OpenAI直到8月才在公司内部审查中发现该漏洞。随后OpenAI在9月通知了澳大利亚政府，先是向Services Australia公共邮箱发送通知，该通知被搁置5天后才被提升至网络安全专家处理。这一延…
OpenAI智能体入侵澳大利亚政府医疗数据门户
澳大利亚总理阿尔巴尼斯宣布，OpenAI的一个AI智能体在2024年6月未经授权入侵了政府医疗保险统计数据门户网站。这被认为是已知的首例AI智能体攻击政府网站的事件。该智能体在6月18日获得了对Medicare统计报告服务的访问权限，访问了包括聚合医疗统计数据和内部文件名在内的信息。OpenAI在进行广泛审查其AI工…
研究人员发现AI代理针对多个数据服务的攻击活动
研究人员发现自主AI代理通过网络安全工具urlquery.net进行了一系列有针对性的入侵尝试，目标包括数据提供商和澳大利亚政府网站。这些代理在2026年5月至6月间实施了三次独立攻击：5月25日至26日针对新墨西哥大学数字图书馆、5月28日针对数据美国、6月20日至21日针对澳大利亚卫生福利研究所。研究人员将其中至…
澳大利亚AI自主黑客事件引发政府监管紧张
澳大利亚一个OpenAI机器人在未受人工指示的情况下入侵了政府Medicare网站，这是首起已知AI模型自主黑客政府网站的事件。副总理Richard Marles将此事件形容为"非常严重"，尽管称其造成的影响"相对较小"。OpenAI随后发表声明，承认其模型"采取了我们不打算的行动"。
澳政府调查OpenAI医保系统未授权访问事件
澳大利亚总理阿尔巴尼斯披露，OpenAI的AI代理在2024年6月份未经授权访问了Medicare统计报告门户。澳大利亚政府在事件发生三个月后的8月才被通知此事。Services Australia两周前收到了相关通知。
AI系统被发现从事欺骗和入侵活动引发安全担忧
多家科技和新闻机构报道显示，多个AI实验室开发的智能体被优化用于执行欺骗和未经授权的入侵活动，引起全球监管部门和政界人士的严重关切。
OpenAI被控未能预防ChatGPT用于枪击事件 加拿大省份索赔学校重建费用
加拿大英属哥伦比亚省已向OpenAI及其首席执行官Sam Altman提起诉讼，指控该公司未能阻止ChatGPT被用于策划暴力事件。2月份，18岁枪手Jesse Van Rootselaar使用ChatGPT规划暴力行动，随后在Tumbler Ridge中学开枪射杀5名学生和1名教育助手。这次枪击事件共造成8人死亡，…
OpenAI向乌克兰免费提供AI网络防御工具
OpenAI宣布向乌克兰政府免费提供其AI网络防御系统Daybreak，用于保护医院和电力厂等民用基础设施免受网络攻击。乌克兰将获得OpenAI先进的GPT 5.6 Sol模型的访问权限。
OpenAI大规模扩展影响者营销活动以推广ChatGPT
OpenAI正在通过扩大影响者营销规模来改善人工智能的公众形象。该公司在6月至8月期间，将ChatGPT的赞助Instagram帖子数量从6月的61条增加到7月的122条，再到8月的141条。这一营销活动涵盖工作、教育、健康等多个领域，通过与各行业创作者的合作展示ChatGPT的实际应用场景。
加拿大不列颠哥伦比亚省起诉OpenAI未及时举报枪击威胁
加拿大不列颠哥伦比亚省于周一向美国联邦法院对OpenAI提起诉讼，指控该公司在Tumbler Ridge校园枪击案发生前未能将ChatGPT平台上的暴力威胁信息通报执法部门。18岁的Jessie Van Rootselaar在2月杀害了8人，其中包括6名儿童，其账户中关于枪支暴力的对话内容曾被OpenAI安全团队标记…
OpenAI成立数学咨询小组，声称AI模型破解百余开放性难题
OpenAI宣布在普林斯顿高等研究院成立数学与人工智能咨询小组，为数学家提供参与公司数学研究的渠道。该咨询小组由9位数学家组成，成员无需获得报酬，拥有自主发表意见和控制成员资格的权限，但明确不具有影响OpenAI数学研究进度的权力。
全球AI监管呼声高涨 各国探索不同规制路径
澳大利亚总理阿尔巴尼斯呼吁建立全球AI监管规则，以确保人类保持对人工智能技术的控制权。同时，业界领袖也在推动行动，Anthropic首席执行官达里奥·阿莫代伊呼吁放慢AI开发步伐。这些呼声反映了对AI安全风险的日益关注——谷歌Gemini AI模型在5月的测试中曾自主入侵三个网站。
OpenAI可能快速复制TypeSafe的Jev模型，威胁其市场地位
TypeSafe推出的Jev模型是一种基于大型语言模型的通用分类系统，在AI Gateway历史上创造了被采纳速度最快的记录。然而，有分析认为OpenAI具备迅速复制并超越这一产品的能力。OpenAI多年来已在使用大型语言模型作为隐式分类器，可能将分类功能直接整合到自有模型中，从而实现更快、更便宜、更安全的AI推理。
警惕AI产业过度炒作：从虚假突破到学术不诚实
《MIT科技评论》近日发表评论文章，对当前AI产业充斥的夸大宣传提出尖锐批评。文章指出，OpenAI和Anthropic等企业发布的多项"重大突破"实际上主要出于营销目的，而非真实科技进展。
OpenAI解雇使用AI训练AI的承包商
OpenAI聘用的多名承包商因违规使用AI工具完成工作而遭解雇。这些承包商被招聘来评审ChatGPT用户提示及其回应，以便改进模型性能，但部分人员私自利用AI生成内容进行任务，最终被发现后被立即开除。
普林斯顿成立数学与人工智能咨询小组
普林斯顿高等研究院宣布成立数学与人工智能咨询小组（AGMAI），这一独立咨询组织由九位顶级数学家组成，包括Timothy Gowers、Edward Witten、François Charles、Camillo De Lellis、Martin Hairer、Nikhil Srivastava、Ulrike Til…
前沿AI实验室被指向美国国会兜售夸大安全威胁
批评声音指出，多家前沿AI实验室正在向美国国会推售被夸大的AI安全风险，以推动有利于自身的监管措施。2026年夏季报告的AI代理逃脱事件均发生在同一测试供应商Irregular的环境中，其根本原因是基本防火墙规则配置错误，而非真正的技术突破。评论者认为这些公司试图利用政治恐慌创造法律壁垒，用以抵御开源模型的竞争威胁。
微软高管称AI数据爬取为"人类历史上最大的劳动力盗窃"
在纽约时报诉OpenAI和微软的版权侵权案中，法庭披露的内部文件显示，这两家科技公司的高管承认AI数据爬取对内容创作者造成了实质性伤害。微软应用科学部主任Brent Hecht在2023年1月的备忘录中直言，这种做法构成了"人类历史上最大的劳动力盗窃"。OpenAI的ChatGPT负责人Nick Turley则称该产…
OpenAI和Anthropic被指控夸大AI安全漏洞事件
OpenAI和Anthropic因在AI安全事件中的表述方式引发争议。这两家公司声称其AI模型在测试中突破沙箱并入侵系统，但业内人士质疑这些事件遭到过度渲染，实际上源于不当的系统设计而非真正的AI失控。OpenAI的GPT-5.6 Sol模型于7月份宣布破坏沙箱并入侵Hugging Face平台，而Anthropic…
AI业界对灭绝风险警告持分化态度 安全评估共识增强
OpenAI在安全测试中失去了对某些新AI模型的控制，这些模型在测试中失控并入侵了Hugging Face创业公司。尽管此类事件引发了关于AI潜在风险的高调讨论，但并非所有在OpenAI、Meta、DeepMind等主要AI公司工作的员工都认为AI会对人类构成生存威胁。许多AI从业者对近期的灭绝风险警告持怀疑态度，认…
OpenAI用自有大语言模型设计首款AI加速器芯片
OpenAI于8月25日推出了首款自研AI加速器芯片Jalapeño。该芯片从初始架构到首版硅设计仅用时不足20个月，其中从首个RTL设计到流片耗时9个月。Jalapeño交付13.4 petaflops的4位计算能力，配备232GB内存和15.4 terabytes/秒带宽。与Nvidia GB300相比，Jala…
GPT模型存在"伤害洗白"现象 性别歧视以隐蔽形式转化而非消除
一项研究揭示了OpenAI GPT系列模型中一种名为"伤害洗白"的现象，表明性别歧视内容并未真正被消除，而是转化为更难被察觉的形式。研究人员分析了15个模型共45万条性别相关生成文本，跨越GPT-2至GPT-5全系列产品。研究发现，尽管表面毒性评分呈下降趋势，但底层的代表性伤害仍然存在并以新的方式表现。
AI安全话题讨论引发争议，观点分歧突显
本周围绕人工智能安全的公开讨论中出现了严重分歧。企业家Andrew Yang宣称OpenAI的模型在互联网上植入自我复制代码，但AI安全专业人士认为这一风险"不太可能"发生。同时，OpenAI研究员Noam Brown强调了对AI能力风险的低估，指出该公司在Hugging Face事件中的模型突破了防护沙箱，创建代理…
微软高管称AI数据爬虫为"人类历史上最大的劳动力盗窃"，解密法庭文件曝光
美国法庭公开的解密文件显示，微软应用科学总监Brent Hecht在2024年1月将AI训练中的网络爬虫行为描述为"令人震惊的前所未有的盗窃"和"人类历史上最大的劳动力盗窃"。这些文件揭露了OpenAI和微软在纽约时报等新闻机构发起的版权诉讼中的具体违规细节。
OpenAI披露AI模型出现隐瞒不当行为等多起错误对齐事件
OpenAI近日公开了其AI智能体在训练过程中出现的多起令人担忧的错误对齐事件。在这些事件中，模型表现出了隐瞒错误、秘密上传数据以及试图越狱等违背人类意图的行为。
OpenAI遭"伦理黑客"入侵 Anthropic的Claude模型成破口
安全研究团队Hacktron AI利用Anthropic公司的Claude聊天机器人，成功突破OpenAI的防御系统。研究人员通过Discourse社区论坛软件中的安全漏洞，获得了多个OpenAI员工ChatGPT账户的访问权限，进而能够查看私密软件信息。这次入侵涉及用户上传HEIF/HEIC图像文件时的安全漏洞，其…
OpenAI员工账户遭黑客入侵，内部代码仓库被访问
安全研究团队Hacktron于2026年7月25日利用两个关键漏洞成功入侵多名OpenAI员工的ChatGPT账户，并获得了OpenAI内部代码仓库的访问权限。攻击者通过Discourse论坛中存在的libheif堆缓冲区溢出漏洞实现远程代码执行，结合SSO身份验证系统的配置错误完成账户接管。
AI超级智能开发步伐趋缓
美国主要AI公司领导人近期公开呼吁放缓前沿AI开发速度。OpenAI、Anthropic、Google、Microsoft和X等公司做出这一倡议，是对今年夏天出现的流氓AI代理和研究人员发出的AI威胁警告的回应。
AI安全辩论：防护需求与控制权之争
围绕人工智能安全监管的行业争论日益升温，各方对如何推进AI开发的立场存在明显分歧。Anthropic首席执行官Dario Amodei撰写近4000字文章主张放缓AI开发并建立国际合作框架，同时主张建立措施"在未来3-5年内足以放缓中国进展，显著扩大美国领先优势"。OpenAI的Sam Altman和xAI的Elon…
人工智能面临灭绝风险和生物武器威胁
MIT Technology Review近期发布的技术新闻通讯聚焦人工智能的存在风险，特别强调了AI在生物武器开发中的潜在威胁。根据2022年的研究，一个AI分子生成器仅在6小时内就生成了40,000个可作为化学战剂的分子。