路径搜索

科技人工智能

新理论提出:大语言模型推理本质是路径搜索而非最优解求解

针对大型语言模型的内部机制,有研究观点提出应将推理过程重新定义为在令牌空间中的路径搜索,而非简单的收敛至最优解 。在该理论框架下,推理被视为从起点 $x$ 到正确集合 $\Scal_x$ 的探索过程,其成功概率 $p_x$ 等于所有落入正确集合的路径概率之和 。这一视角指出,强化学习训练的核心目标实际上是最大化采样出…