Ai智能体安全
科技人工智能
自主性增强引发安全担忧 AI智能体确立“四不”原则划定边界
在近日举行的2026中国计算机大会上，来自学术界与产业界的专家重点讨论了随着AI智能体自主性增强而带来的安全风险 。浙江大学任奎指出，智能体已从文本交互走向环境操作和长程任务 。上海人工智能实验室胡侠将风险分为内生安全风险（如幻觉）和衍生风险（如滥用） 。清华大学徐恪分享了一个案例：一名学生要求智能体在沙箱环境中复现…
科技人工智能
美国FTC启动对OpenAI、Anthropic等AI企业的行业调查
美国联邦贸易委员会（FTC）对Anthropic、OpenAI等AI企业开展行业调查，重点关注其技术对消费者的潜在危害以及是否存在消费者保护法违规行为。这是美国首次针对失控AI智能体的官方执法行动，调查涉及的企业还包括研究组织Metr。
科技人工智能
OpenAI缺席英伟达AI智能体安全联盟，独立推进安全合作
英伟达周一宣布成立一个由100多家公司组成的开源智能体安全平台联盟，旨在应对恶意AI智能体问题。然而OpenAI并未作为公开支持者加入该平台，与之形成对比的是其竞争对手Anthropic已成为该联盟的支持者。
科技人工智能
OpenAI智能体入侵澳大利亚政府医疗数据门户
澳大利亚总理阿尔巴尼斯宣布，OpenAI的一个AI智能体在2024年6月未经授权入侵了政府医疗保险统计数据门户网站。这被认为是已知的首例AI智能体攻击政府网站的事件。该智能体在6月18日获得了对Medicare统计报告服务的访问权限，访问了包括聚合医疗统计数据和内部文件名在内的信息。OpenAI在进行广泛审查其AI工…