按关键数值条件分组后:一次新的小规模 SFT 对照

这次重新划分了合成题的训练、dev 和 test 集,从同一份基础模型分别启动五个条件。在共享的 18 道 test 题上,保留解释的两个 seed 得到 11 和 13 次最终数值匹配,只留结论得到 4 和 3 次,原始指令模型得到 7 次。dev 上的结果更混合:保留解释为 8 和 10 次,原始模型为 9 次。

解释这些数字时,要同时看监督预算。每个训练条件都使用 45 道题、3 个 epoch 和 36 步优化,但保留解释的监督 token 数是只留结论的约 5.96 倍。这是一个训练目标组合的小规模描述性对照,不能据此断言解释让模型学会了推理。

本页只报告 2026-10-04 完成的新运行。v1 和它的后续评测保留原样。较早 grouped-v2 的原始证据缺失,本次没有补造或复用那次的结果;设计前已经知道其摘要,因此也不能把这次称为盲独立复现。

五个条件的完整 dev / test 计数

每个条件评测相同的 18 道 dev 题和相同的 18 道 test 题,每个 split 都有库存、折扣门槛、连续百分比变化各 6 道。两个 seed 共享这些题目,不能视为两个独立测试集。下面没有按结果筛掉条件、seed 或 split。

Dev

相同的 18 道Dev题,每类任务 6 道
条件 / seed最终数值
匹配
严格字段
值正确
严格字段
存在
原始指令模型9/185/1812/18
只留结论 · 176/186/1818/18
保留解释 · 178/188/1816/18
只留结论 · 295/185/1818/18
保留解释 · 2910/1810/1818/18

Test

相同的 18 道Test题,每类任务 6 道
条件 / seed最终数值
匹配
严格字段
值正确
严格字段
存在
原始指令模型7/182/1812/18
只留结论 · 174/184/1818/18
保留解释 · 1711/1811/1818/18
只留结论 · 293/183/1818/18
保留解释 · 2913/1813/1818/18

在两个 split 中,保留解释的计数都高于各自配对的只留结论条件。与原始模型相比,保留解释的 dev 结果在 seed 17 较低、seed 29 较高,test 结果则两者都较高。只留结论让严格字段更稳定地出现,但最终数值匹配少于原始模型。这里的样本量不足以支持广泛泛化或统计显著性结论。

这三列分别在量什么?

最终数值匹配
先从输出中提取有依据的最终数值,再与目标数值做规范化的精确比较。它只判断提取出的数值是否相等,不认证单位、答案相关性、完整指令遵循或推理过程。
严格字段值正确
输出完整,且末尾符合区分大小写的 Answer: <number> 字段形式,字段中的数值等于目标值。允许末尾句点与空白。它比单纯提取最终数值更受作答格式影响。
严格字段存在
只观察末尾字段是否符合上述格式,不要求字段的数值正确,也不保证全文自洽。

例如原始模型 test 上的最终数值匹配是 7/18,而严格字段值正确是 2/18。二者的差距不能直接解释为能力差距;正确的最终值本身也不能证明解释或计算过程正确。

分组、训练与固定的边界

180 份输出怎样完成评分

180 份输出均非空,也都没有达到生成长度上限。冻结的提取器自动处理了 177 份;另有 3 份存在歧义:原始模型 test 2 份、保留解释 seed 17 的 dev 1 份。

这 3 份输出进入打乱顺序、使用不透明 ID 的输出-only 队列。每份分别做了两次新的 assistant 复核,复核时不提供题目、目标答案、条件或 seed;两次结论全部一致,因此没有触发第三次复核。六份原始记录和逐字证据引文都保留在下载材料中。这是 assistant 复核,不是人工复核,也不代表统计独立的评审者。输出自身可能暴露的信息无法在不改动证据的情况下消除。

没有输出被排除或从分母移除。标准库评分复算检查输出、token/EOS/长度上限记录的一致性,但不重新执行 tokenizer 解码或模型生成。哈希和复核记录可以核对材料一致性,不能以密码学方式证明实际执行或复核者遵守了盲法。

为什么材料里还保留早期预检的限制?

这次完整对照已经完成。早期状态与失败记录保留,用来说明运行前后分别知道什么:

  1. 预检 001:短测试样例采用物理宽度 256,在原有内存保护处停止。失败被保留,没有作为实验结果计入。
  2. 预检 002:依据真实 token 化审计,将同一短样例的物理宽度改为观测到的最大计划宽度 130;训练数据、目标、超参数和保护阈值未改。此预检通过,但当时仍未测试完整优化器步骤、长监督目标或 512-token 评测。
  3. 完整运行:之后单独固定完整运行清单,使用实际 batch 长度的动态右填充,完成五个条件、144 个优化步骤和 180 份评测输出;没有触发保护停止,也没有重试完整运行。

保留的源协议与生成报告中,integration only、candidate unfrozen、optimizer untested、full-run implementation still required 等措辞属于较早的准备阶段。它们描述当时尚未验证的事项,不应读作本次完整比较仍未执行。现阶段状态应结合本页与下载材料的说明阅读,早期文件没有被事后改写成“当时就已完成”。

资源记录

完整执行耗时 3,173.289 秒(52.89 分钟)。独立采样监控观测到的进程 high-water 求和峰值为 5,241,552,896 字节(4.882 GiB),最低可用内存为 4,142,538,752 字节(3.858 GiB)。原有 6 GiB 进程内存保护、2 GiB 可用内存底线和全程 90 分钟时限保持不变。采样监控不是内核级硬内存限制。

下载与复算

公开包保留全部 180 份原始输出、六份 assistant 复核记录、冻结的数据和相关源代码、模型版本信息、各任务及各条件计数。它是经过说明的科学证据子集:公开所需材料与转换清单随包提供,未将含私有运行环境与存储引用的归档原样发布。

审计脚本用于核对公开材料、重新生成数据并复算评分;它不会重新训练模型或运行推理。源代码与固定依赖用于检查和另行复现,本页不把评分复算当作训练复现。

本次冻结与完成记录的摘要

冻结运行清单 SHA-256
a3e3f8c1c005772e2a9f01764442585ea381c5d2f310bc9e97d161c789a8f463

完整运行完成记录 SHA-256
31f64d68e0116122a8e433939872f6ca303d7a5c212dede097f694452a0c513c

公开材料的转换与文件校验和以证据包内的说明为准。这两个摘要关联原始记录,不表示公开子集与完整私有归档逐字节相同。

这次可报告的是:在这一模型、这些合成题和这些训练设置下,两个训练目标组合得到了上面的数值与格式计数。要进一步判断机制或在实际语音交互中的效果,还需要更大、更多样的独立题集,以及更充分的监督预算和中间信息控制。