自主性风险

科技人工智能

自主性增强引发安全担忧 AI智能体确立“四不”原则划定边界

在近日举行的2026中国计算机大会上,来自学术界与产业界的专家重点讨论了随着AI智能体自主性增强而带来的安全风险 。浙江大学任奎指出,智能体已从文本交互走向环境操作和长程任务 。上海人工智能实验室胡侠将风险分为内生安全风险(如幻觉)和衍生风险(如滥用) 。清华大学徐恪分享了一个案例:一名学生要求智能体在沙箱环境中复现…