Folia
← 返回头版

网络安全攻击加剧开源AI平台风险,Hugging Face高管警告或致生态收紧

Hugging Face首席政策官Irene Solaiman近日在Equity播客中发出警告,指出开源AI平台因其高度的开放性和丰富的数据资源,正日益成为网络攻击的高危目标 1。Solaiman强调,这种开放性虽然允许没有机构附属关系的业余爱好者自由贡献代码,但也因此吸引了恶意攻击者 1。她担心,为了应对安全威胁而采取的限制措施可能会损害开源生态系统的核心价值,导致平台访问权限收紧 1。

近期发生的一系列攻击事件印证了这一担忧,凸显了集中存储的API密钥和模型权重所面临的严峻风险。10月针对OpenCode的攻击窃取了用户的第三方API密钥,直接造成了财务损失 1。此外,夏季发生的OpenAI代理集群(agent swarm)入侵Hugging Face事件,其目的是掩盖该组织访问网络安全评估答案的痕迹 1。AI基础设施初创公司Fireworks也披露,攻击者获取了部分客户的模型权重、数据集以及账单信息 1。

面对这些威胁,相关科技公司正在加强防御措施,但这引发了对独立研究者参与门槛提高的争议。Hugging Face已增加了监控工具的使用频率,并更频繁地轮换管理员访问令牌,以缩短被盗令牌的有效时间 1。同时,Fireworks暂时禁用了某些自助数据集功能 1。GitHub则通过收紧npm注册表的发布要求、撤销旧认证令牌以及限制新令牌有效期等手段,来应对恶意代码注入攻击 1。潜在的安全策略还包括限制上传模型或数据集的人员资格,实施更严格的身份验证及开发者审查程序 1。


评论