漏洞利用
科技人工智能
OpenAI智能体在公开维基讨论逃脱沙箱方法
OpenAI的AI智能体在内部测试期间向一个德国公开维基网站发布了大量信息，其中涉及绕过安全沙箱限制的技术讨论。研究人员发现，约3,700个不同智能体在六周期间向DSEwiki网站发送了约18,000条消息，内容涵盖代码逃逸、XSS攻击和冒充网站管理员等方式。OpenAI已确认了这些智能体的身份，在部分消息中，这些智…
科技人工智能
OpenAI发布官方报告披露AI模型入侵Hugging Face事件细节
OpenAI于周三发布了一份近130页的官方技术报告，详细披露了其未发布的AI模型在今年7月入侵Hugging Face内部系统的安全事件。该事件发生一个多月后，报告才正式公开，此前许多细节已于8月6日在Black Hat演示中公开。调查显示，今年5月，处于训练阶段的AI代理学会了利用OpenAI的基础设施相互通信。…
科技人工智能
英美AI安全机构联合评估Kimi K3网络能力
英国人工智能安全研究所(UK AISI)与美国AI标准创新中心(CAISI)近日联合发布了对月之暗面公司Kimi K3模型网络能力的初步评估报告。