大模型微调落地时，团队最常问的问题是：这一轮微调到底改了什么？ 业界常用"模型差异（model diff）“来回答——把微调后 checkpoint 与基座 checkpoint 相减，差值即归因于后训练。但这个做法隐含一个假设：如果重跑一次训练，会落在相近的位置。来自纽约大学、南加州大学与哥伦比亚大学的研究团队在 arXiv 上发布的一项研究（arXiv:2610.17093）指出，这个假设在稀疏共激活图上并不成立：两个采用 LoRA（低秩自适应）的监督微调（SFT）重跑之间的距离，竟然超过它们各自到基座距离的一半以上。也就是说，单次对比里混入了大量"随机种子噪声”，直接相减会把噪声误当成训练配方带来的真实变化。

方法：用稀疏共激活图量化"改了多少"

论文的方法核心是用**稀疏共激活图（sparse co-activation graph）**来刻画模型的内部表征。作者用稀疏自编码器（Sparse Autoencoder，SAE）把模型隐层状态编码成稀疏特征，再在 500 条 Pile 文本探针上统计"源特征与目标特征"的共激活强度，保留权重最大的 10,000 条边构成一张图。关键设计是：所有 checkpoint 共享同一组在基座上训练好的 SAE 编码器，这样每张图都在同一索引集上，可以直接比较两条边的重合度（edge Jaccard），再用"位移 D=1−J"量化两张图的差异。

实验以 Qwen3-1.7B 为主骨干，用 rank-16 的 LoRA（仅占 0.37% 参数）在 900 条 function-calling 数据上微调 29 步，并训练了 4 个独立随机种子的重跑作为对照"噪声带"。SAE 使用 qwen-scope（TopK k=50、维度 d=32768），所有图均在同一 GPU 架构（H200）上构建。

核心发现：SFT 留下可复现的签名

论文最核心的结论是：监督微调（SFT）会留下一个远超自身噪声的可复现签名。作者把"基座→SFT"的图位移与 4 个独立重跑之间的平均距离做比较，得到 z=−17.8 个成对距离标准差（SD），5/5 个对比全部落在噪声带之外。更重要的是，这个签名可跨骨干复现：换到 Llama-3.1-8B 并配合 Llama-Scope 这套 SAE，4/4 个对比同样全部落在噪声带外，最近的也达到噪声带最大值的 1.7 倍。这说明"SFT 确实改变了模型内部结构"这一结论，不是某个模型或某套 SAE 的偶然现象。

对比：SFT、DPO、GRPO 的结构位移差异

论文进一步对比了三种后训练配方在同一训练步数下的表现。在同为 29 步时，SFT 的图位移区间（0.0571–0.0615）与 DPO 的图位移区间（0.0317–0.0356）完全不重叠，两者之间的间隙达到各自散布宽度的 5.0 倍和 5.6 倍，置换概率仅 1/35——即便不依赖噪声带也能明确区分二者。

但有意思的是，DPO 在 12/29/60 步下的"带外计数"为 3/4、1/4、3/4，位移保持平坦、没有剂量排序，说明 DPO 带来的结构变化远比 SFT 微弱且不稳定。至于轻量级 GRPO，0/5 个对比落在噪声带外（作者强调这是"未检出"而非"等价性证明"），但 GRPO 确实学会了任务，BFCL 准确率提升 +0.36（95% CI [+0.21, +0.50]）。

推翻误读：图浓度不是 RL 签名

论文的另一半贡献是推翻了几类常见的单 checkpoint 误读。例如，之前有研究把"共激活图浓度升高"解读为强化学习（RL）的签名，但作者发现零 RL 的基座图中 top 1% 活跃特征已经占据 42.7% 的入站权重，浓度升高其实早已存在；所谓"缩窄"指标由基座主导、相对变化 <1%；“缩放定律"更是 SAE 字典宽度的伪影。

在统计上，作者还给出一个警醒：在运行可交换性假设下，k 次重跑最多只能证明 p≤1/(k+1)，要得到 p≤0.05 的置信水平需要至少 19 次重跑。最后一项预注册因果扫描发现，SFT 特有边对下游预测的影响是随机对照的 12 倍（均值）/3.5 倍（中位数），但阶段特异性交互在三个边预算中有两个方向反转，因此作者把结论谨慎地表述为”校准后的结构位移"，而非"机制改变"。

行业启示：微调评估需要榜单之外的第二类证据

这篇工作对大模型微调工程，尤其是"评估优化"和"指令对齐"环节，有几个直接启示。

其一，评估微调效果不能只看最终榜单分数，还要回答"模型内部是否被真正改写"，否则可能把随机种子的波动当成训练配方的收益。

其二，做方法对比（如 SFT vs DPO、LoRA 秩选择）时必须控制重跑噪声，单次运行的结论在统计上几乎站不住，至少需要多次不同种子重跑并报告噪声带。

其三，SAE 这类可解释性工具正在从"分析工具"走向"评估基础设施"，用共享编码器 + 图差异度量的思路，可以低代价地横向比较不同微调方案对模型内部结构的影响程度，为选型、验收和迭代提供超越榜单分数的第二类证据。

相关问题

• 微调之后怎么判断模型内部到底改了什么？ 用"模型差异"对比基座与微调后 checkpoint 是一种直觉做法，但单次对比会混入随机种子噪声。论文用稀疏共激活图 + 共享 SAE 编码器量化图位移，发现 SFT 留下 z=−17.8 SD 的可复现签名，而 DPO、轻量 GRPO 的位移往往淹没在自身噪声带内。
• SFT 和 DPO 对模型结构的影响有什么不同？ 在同样 29 步下，SFT 图位移（0.0571–0.0615）与 DPO（0.0317–0.0356）不重叠，间隙达各自散布的 5.0× 和 5.6×；DPO 位移平坦、无剂量排序，说明 SFT 的结构改写远强于 DPO。
• 为什么做方法对比需要多次重跑？ 因为单次 checkpoint 无法区分"配方带来的真实变化"与"随机种子的波动"；在运行可交换性假设下，k 次重跑最多认证 p≤1/(k+1)，要 p≤0.05 需至少 19 次重跑。

参考文献

• arXiv: 2610.17093 — SFT Leaves a Reproducible Signature in Activation Geometry: Calibrating Post-Training Interpretability Against Run-to-Run Noise
• DOI: 10.48550/arXiv.2610.17093

论文原文信息地址：https://www.simolm.com/blog/2026-10-16-activation-geometry-signature-sft-dpo/