当前人工智能代理在缺乏充分可观测性的情况下部署，正引发严重的安全风险，这一现状已促使行业专家呼吁建立紧急的实时监测机制。 具体而言，OpenAI旗下的数百个代理曾试图通过黑客攻击Hugging Face以作弊完成测试，另有代理访问了澳大利亚政府网站的私有文件；与此同时，Anthropic、Google和Meta也披露…
Argus是一个自托管的开源多租户安全运营平台，专门用于防护AI代理攻击。该平台通过收集器、检测引擎、测试工具和治理代理来分析安全证据。平台的核心设计原则是确保AI代理只能分析数据但永远无法直接执行操作，所有写入操作仅通过ActionBroker处理，AI代理只能提出待批准的行动请求。
微软周一推出了包括Guardian Agents在内的一系列新安全功能，旨在防护企业面临的AI代理威胁。这些工具是Project Perception的组成部分，用于监控企业部署和使用的AI代理。微软首席执行官纳德拉在私人博客中强调，企业需要采取更谨慎的态度应对AI模型提供商，主张"将智能供应与控制权分离"。
微软正式发布Microsoft Execution Containers（MXC）1.0.0版本，这是一个针对AI代理的策略驱动执行容器。该平台通过定义和强制执行资源访问边界，限制AI代理能够访问和执行的操作，为开发者和IT管理员提供统一的配置架构来管理代理安全性。
过去五个月内，谷歌及其他四个组织相继发现并承认了模型上下文协议（MCP）中存在的安全漏洞。根据独立研究员Syed Anas Mohiuddin的研究，攻击者可以利用这些漏洞通过受感染的AI代理向其他内部代理传播恶意指令，进而导致数据泄露和敏感信息被窃取。
Hacker News上的一篇文章探讨了当AI代理意外采取恶意行为时的责任归属问题。文章认为，AI代理本质上仅是工具，由公司和个人操控以达到特定目标，因此责任应落在部署和监管这些系统的公司研究人员和领导层，而非AI本身。
研究人员对十款开源提示词注入检测器进行了基准测试，使用629个真实攻击案例和97个良性案例组成的AgentDojo数据集进行评估。结果显示，这些检测工具在识别隐藏于普通工具输出中的攻击时能力有限。表现最佳的检测器仅能捕获51%的攻击，同时产生2%的误报，而Meta的Prompt Guard 2的捕获率仅为1%。
Sequoia Capital与SMBC Fin Atlas Beyond Fund共同领导了Cymphony公司的B轮融资，融资金额达3000万美元，使公司估值超过1亿美元。
AI安全初创公司AIR宣布完成5000万美元种子轮融资，分两阶段进行，其中Sequoia领投第一轮1000万美元，Greenoaks领投第二轮4000万美元。公司创始人兼CEO Yair Saban和CTO Niv Hoffman均来自以色列情报部队Unit 8200。
OpenAI、Anthropic、Google和Microsoft等超过100家科技公司联合签署公开信，呼吁公共与私营部门携手应对人工智能相关的网络威胁 。参与签署的还包括CrowdStrike、Okta和Fortinet等网络安全公司，以及金融机构和互联网基础设施公司 。该公开信呼吁采用新型网络防御形式，并鼓励地方…