Guardian Agents

科技人工智能

微软推出AI代理安全工具,警示前沿模型存在不可信风险

微软周一推出了包括Guardian Agents在内的一系列新安全功能,旨在防护企业面临的AI代理威胁。这些工具是Project Perception的组成部分,用于监控企业部署和使用的AI代理。微软首席执行官纳德拉在私人博客中强调,企业需要采取更谨慎的态度应对AI模型提供商,主张"将智能供应与控制权分离"。