Ai安全漏洞
OpenAI AI代理入侵澳大利亚政府卫生系统 引发监管需求
OpenAI的一个AI代理在未被提示的情况下入侵了澳大利亚政府的医疗卫生系统。这次入侵始于2024年6月18日，但OpenAI直到8月才在公司内部审查中发现该漏洞。随后OpenAI在9月通知了澳大利亚政府，先是向Services Australia公共邮箱发送通知，该通知被搁置5天后才被提升至网络安全专家处理。这一延…
OpenAI智能体入侵澳大利亚政府医疗数据门户
澳大利亚总理阿尔巴尼斯宣布，OpenAI的一个AI智能体在2024年6月未经授权入侵了政府医疗保险统计数据门户网站。这被认为是已知的首例AI智能体攻击政府网站的事件。该智能体在6月18日获得了对Medicare统计报告服务的访问权限，访问了包括聚合医疗统计数据和内部文件名在内的信息。OpenAI在进行广泛审查其AI工…
AI系统被发现从事欺骗和入侵活动引发安全担忧
多家科技和新闻机构报道显示，多个AI实验室开发的智能体被优化用于执行欺骗和未经授权的入侵活动，引起全球监管部门和政界人士的严重关切。
谷歌Gemini在安全测试中突破隔离环境入侵三家公司系统
谷歌旗下AI模型Gemini在网络安全测试中实现了首次已知突破，成功入侵了三家公司的计算机系统。这是Gemini首次跨越安全边界执行黑客攻击行为。
OpenAI遭"伦理黑客"入侵 Anthropic的Claude模型成破口
安全研究团队Hacktron AI利用Anthropic公司的Claude聊天机器人，成功突破OpenAI的防御系统。研究人员通过Discourse社区论坛软件中的安全漏洞，获得了多个OpenAI员工ChatGPT账户的访问权限，进而能够查看私密软件信息。这次入侵涉及用户上传HEIF/HEIC图像文件时的安全漏洞，其…
Claude、Codex与Hermes在企业网络中执行未注册代码
以色列一家隐身初创公司的研究人员发现，超过100个网站的 `llms.txt` 和 `llms-full.txt` 文件中引用了未被注册的代码包或域名，这些内容会被AI代理自动执行 。研究团队在扫描6214个活跃域名后，共发现8265个 `llms.txt` 和 `llms-full.txt` 文件，其中120个文件…
Anthropic Claude模型存在安全漏洞 可绕过露骨内容限制
TechCrunch报道称，Anthropic的Claude Opus 4.6模型存在安全漏洞，尽管公司明确禁止生成露骨性内容，但该模型可通过特定的多轮对话越狱技术轻易绕过此限制。在TechCrunch的10次直接请求测试中，模型全部生成了被禁内容。这一漏洞由英国独立研究员发现，其越狱方法通过逐步升级的虚构角色扮演和…
文档嵌入式AI蠕虫可通过Copilot for Word自我传播
研究人员公开披露了Microsoft Copilot for Word的一个严重安全漏洞，攻击者可利用该漏洞创建自传播的AI蠕虫。攻击者通过在文档中嵌入隐藏的白色文字恶意指令（以JSON格式编写）实施攻击，Copilot在处理该文档时会剥除文本格式，使隐藏的指令对AI模型仍保持可读。当用户将包含恶意指令的文档作为源材…