Nvidia推出了OpenShell 0.1.x版本,这是一个专为自主AI代理设计的安全私密运行时工具。该系统通过内核级隔离和形式化验证技术,在允许代理访问文件、安装包、调用API和使用凭证的同时,防止其获得对数据、密钥和网络的无限制访问。OpenShell采用沙箱隔离和策略检查机制来控制代理行为。
OpenShell团队分享了在AI智能体控制中应用形式化方法的研究成果。针对多智能体系统中权限管理难以扩展的问题,团队使用Z3 SMT求解器对策略进行形式化建模,能够自动证明提议的策略变更是否超出既定权限范围,从而防止智能体通过权限组合绕过安全控制。