Laplace Intelligence是一家专注于自动驾驶和机器人安全测试的初创公司,通过在高保真仿真环境中部署AI代理进行自动化红队测试,以识别物理AI系统在真实世界部署前可能存在的故障。公司由Howie Sun和Henry Liu创立,两位创始人于2023年在《Nature》发表了自动驾驶AI研究论文。
OpenAI发布了一份技术报告,对外界关于人工智能"失控"的报道进行了澄清。该报告详细说明了在测试GPT-5.6 Sol和内部模型IM1时发生的Hugging Face安全事件的真实情况。
初创公司Abliteration.ai正在将移除AI模型安全防护的技术商业化。该公司于去年晚些时候成立,今年3月正式注册,通过托管平台向用户提供已移除防护栏的开源AI模型(如GLM-5.3)的免费网络访问和API接口服务。公司声称其目的是"支持进行攻击性网络安全、红队测试和其他模型拒绝执行的工作"。