Folia
← 返回头版

MIT CSAIL研究揭示权重空间编程本质为线性规划求解

MIT CSAIL近期发布了关于“权重空间编程”的研究成果,指出大型模型GPT-6 Astra通过试错搜索来编辑神经网络权重的过程,本质上是在求解一个线性规划(LP)问题 1。该研究以解决小模型Qwen3.5-0.8B的“思维循环”缺陷为例,展示了直接编辑网络权重的有效性,并进一步论证了使用标准LP求解器或启发式方法能够以更少的时间、更少的修改权重达到同等甚至更好的效果 1。

在针对Qwen3.5-0.8B的具体实验中,Astra仅修改了0.016%的权重,便使模型在MATH-500基准测试中的准确率从7.9%跃升至48.1% 1。尽管Astra完成这一搜索过程耗时约8小时,但研究人员发现专用LP求解器仅需几分钟即可达成相同目标,且所需修改的权重数量减少了8倍 1。这种修正的核心在于识别导致模型陷入“思维循环”的方向向量u,并通过秩-1矩阵更新对第15和19层的权重进行调整 1。

此外,实验还表明,此类权重修正可以简化为在推理时添加固定的“转向向量”(Steering Vector),该方法不仅能有效消除循环,还能显著提升模型的指令遵循能力 1。数据显示,采用此方法后,模型在IFEval测试中的得分从21%提高到了62% 1。


评论