Folia
← 返回头版

“Astra可直接读写权重改进Qwen”宣传被指误导

近期关于“GPT-6 Astra”具备直接读取和编写神经网络权重能力的宣传引发关注,但相关分析指出该描述存在严重误导 1。支持者声称,Astra仅通过观察原始权重即可判断网络用途,并能从头编写出优于经过一亿步PPO训练的游戏网络 1。此外,还有宣传称Astra通过原生编辑0.016%的权重,使Qwen3.5-0.8B模型在MATH-500基准测试中的准确率从7.9%大幅提升至48.1% 1。

然而,实际实验细节显示,上述涉及大型语言模型如Qwen的改进并非依靠纯粹的“权重直觉”,而是依赖Python代码工具链及多次运行模型的反馈循环 1。数据显示,真正仅靠查看原始权重的方法只适用于参数规模在17K至172K之间的小型网络 1。针对Qwen等大模型的实验均提供了Python环境,并允许模型对练习问题进行多达50个批次的迭代处理 1。作者强调,将这种模拟人类机器学习工程师使用代码分析或修改权重的工程优化过程,等同于AI对底层原理的直接理解能力,是夸大了其实际技术表现 1。


评论