改0.016%的权重，小模型数学成绩翻了六倍
MIT CSAIL团队在11月2日公布权重空间编程实验，GPT-6 Astra直接编辑Qwen3.5-0.8B的权重，只动约0.016%的参数就把MATH-500成绩从7.9%提到48.1%，机制是消除重复推理循环。
- 01THE SETUP：MIT CSAIL团队让GPT-6 Astra直接编辑Qwen权重。
- 02THE DIAGNOSIS：Astra定位到第15层与第19层导致的重复推理循环。
- 03THE PATCH：减掉该数值方向后，MATH-500从7.9%升到48.1%。
WHAT HAPPENED发生了什么
MIT计算机科学与人工智能实验室的研究团队在11月2日公布了一项实验。他们让OpenAI的GPT-6 Astra直接编辑一个小型开源模型Qwen3.5-0.8B的权重，没有使用常规训练流程。
结果很醒目。Astra只动了约0.016%的权重，131072个参数，Qwen的MATH-500成绩就从7.9%升到48.1%，GSM8K从13.8%升到67.1%，指令遵循IFEval从21.0%升到62.3%。
关键在机制。Astra定位到第15层与第19层的多层感知机写出的一个数值方向，这个方向导致模型陷入重复推理。把它减掉之后，MATH-500回答触顶32,768 token上限的比例从93.0%降到33.1%。模型不是变聪明了，是终于能把答案说完。
WEIGHTS AS CODE权重，原来可以当代码读
这项工作被团队称为权重空间编程。思路是把神经网络的参数当成可读、可诊断、可打补丁的代码，前沿模型负责读出哪一段出了问题，再亲手改掉它。
传统路线是训练，靠梯度下降间接调整参数。这条路线是手术，直接改数字。两者差别不在效果数字，在方法论，前沿模型第一次被证明可以直接理解并操作另一个模型的参数。
REPAIR, NOT KNOWLEDGE六倍提升，修的是 bug，不是知识
数字很容易被误读。六倍听起来像小模型突然学会了数学，实际是它本来就会算，只是算到一半就开始原地打转，答案永远到不了终点。
对照实验说得很清楚。在很少陷入循环的Gemma 3 270M上，同一方法对MATH-500的提升不到一个百分点。权重编辑能暴露潜能，不能凭空植入没学过的能力。
EARLY AND EXPENSIVE代价不小，方法还很早期
找到这个补丁并不便宜。最强的一次尝试用了50轮评估请求、158轮对话、80次Python执行，总耗时20.3小时，其中4.7小时卡在服务中断上。手术刀很准，找病灶的过程还很笨重。
团队下一步是建一套自动化基准与测试框架，用来系统评估模型改模型的能力。权重空间编程现在是一个有证据的概念验证，离通用工具还有距离。
SIGNAL JUDGMENT模型修模型，训练之外的新路
Tokenta Signal 判断：权重空间编程的意义不在六倍这个数字，在它证明了一件事。前沿模型可以读懂另一个模型的参数，并像修代码一样修它。
WHAT REMAINS UNCERTAIN还有什么不确定
EVIDENCE证据
原文确认MIT CSAIL团队在11月2日公布权重空间编程实验，GPT-6 Astra只改约0.016%的权重就把Qwen3.5-0.8B的MATH-500成绩从7.9%提到48.1%，机制是消除重复推理循环。
PRIMARY SOURCES原始来源
- VentureBeat：'Like gene editing for neural networks': MIT researchers used GPT-6 Astra to edit Qwen's open weights directly
https://venturebeat.com/technology/like-gene-editing-for-neural-networks-mit-researchers-used-gpt-6-astra-to-edit-qwens-open-weights-directly-boosting-math-performance - The Register：Forget retraining - AI can now tweak another AI's weights
https://www.theregister.com/ai-and-ml/2026/11/03/forget-retraining-ai-can-now-tweak-another-ais-weights/5307105