宝玉等中文X作者传播一项由GPT-6 Astra直接修改小模型权重、提升数学测试成绩的研究说法。宝玉援引MIT CSAIL四名研究者11月2日发布的博客称,该方法不训练、不计算梯度,仅修改Qwen3.5-0.8B约0.016%的权重,便将MATH-500正确率从7.9%提高到48.1%,并将其称为“在权重空间里编程”。Orange AI据此联想到递归自我改进,IAMAI则进一步质疑传统模型训练研究的必要性。讨论焦点由单项数学提分扩展到大模型能否直接改进其他模型。候选正文存在截断,且未附完整论文、实验配置或复现记录,不能确认结果的泛化能力,也不能据此认定递归自我改进已经实现或训练方法已经失效。
参与帖子: 真是离谱给他妈开门,GPT-6 Astra 可以通过直接修改模型权重文件,将性能提升了 6 倍,人类对 AI 的理解基本为零,所有那些关于如何训练模型的论文都可以扔掉了。
参与 1 帖贡献曝光 3.9万话题热度 154
#GPT-6 Astra#Qwen3.5-0.8B#权重编辑
