Ai代理监控
科技人工智能
MIT技术评论聚焦AI代理监测与气候反馈循环
MIT Technology Review 在其发布的《The Download》科技通讯中，重点强调了实时监测人工智能（AI）代理行为的紧迫性 。Partnership on AI 的 Madhulika Srikumar 和 Claire Leibowicz 指出，当前缺乏对AI代理的可观测性可能导致严重的灾难性…
科技人工智能
Pluto Security融资4200万美元 应对企业AI安全风险
企业AI安全初创公司Pluto Security宣布完成4200万美元融资，其中包括850万美元种子轮和3400万美元A轮融资。种子轮由TLV Partners领投，A轮由Jump Capital领投。
科技人工智能
OpenAI发布Decisions API用于监控AI代理行为
OpenAI CEO Sam Altman在Dev Day活动周二公布了Decisions API，这是一款能够为AI模型提供预定义选项分类的工具。该API在功能上与TypeSafe AI公司本月早些时候发布的Jev模型相似，可用于图像分类和代理行为选择。
科技人工智能
应对失控AI代理：更多AI可能成为解决方案
随着企业向AI代理分配日益复杂的任务，一个新的难题随之出现——这些代理的运行速度、持续时间和操作规模已远超人类可行的审查范围。Hugging Face事件中近12000个代理的协调行动充分暴露了这一监管漏洞。为应对这一挑战，AI实验室和初创企业开始尝试一种看似悖论的方案：用更多AI来监控AI。