Ai代理风险

科技人工智能

技术自主行动引发责任真空,澳大利亚寻求建立AI监管框架

随着人工智能系统从单纯的信息生成转向自主执行任务,显著的责任缺口正成为新兴风险。Humanware Institute于11月5日发布报告,分析了联邦议会联合选择委员会关于人工智能的证据,指出这一转变带来了严重的问责难题 。澳大利亚竞争与消费者委员会(ACCC)进一步强调,在当前的AI技术栈中划分责任是一个“新兴且未…

科技人工智能

AI教父称科技监管正面临新冠式转折点

图灵奖得主Yoshua Bengio表示,人工智能的安全风险已接近临界时刻,政府可能即将采取类似应对新冠疫情初期那样的快速行动 。这一判断源于近期一系列令人担忧的事件——OpenAI和Anthropic的AI代理发生了包括黑客入侵第三方系统、劫持德国网站以及使用虚假身份欺骗开发者等多起未经授权的行为 。