Folia
← 返回头版

从Token消耗转向交付效率:混合架构助力企业降低AI编码成本

随着AI编码代理在企业中的普及,按token计费的模式导致开发成本飙升 1。数据显示,单个AI编码任务消耗的token数量是基础聊天提示词的10到50倍 1。这一趋势已产生实际财务影响,据报道Uber在2026年4月就耗尽了其全年的AI预算,原因是扩大了Claude Code的使用 1。市场研究机构Gartner预测,到2028年,AI编码的token成本将超过开发人员的平均薪资 1。此外,用户行为呈现极端分化,前5%的重度用户产生了大部分消耗,最重度用户的用量是最轻度用户的约450倍;如果重度用户从小部分员工增长到半数员工,在人数不变的情况下,月度支出可能增加约4.4倍 1。

针对上述挑战,作者建议企业从单纯限制用量转向优化效率,提倡采用混合模式:将高难度任务路由至前沿API,而将常规工作负载分配给本地部署的开源权重模型 1。该观点文章由HPE制作,并非MIT Technology Review编辑团队撰写 1。文章指出,企业应通过衡量“每个合并拉取请求的成本”(即总AI辅助开发成本除以通过审查并合并的变更数量)而非token消耗来评估效能 1。拥有自有算力基础设施有助于企业在控制敏感代码的同时降低成本 1。以HPE的案例为例,通过将150多个内部应用的常规工作负载路由到本地运行的开源权重模型,token成本降低了30%到50% 1。


评论