按关键数值条件分组后:一次新的小规模 SFT 对照
这次重新划分了合成题的训练、dev 和 test 集,从同一份基础模型分别启动五个条件。在共享的 18 道 test 题上,保留解释的两个 seed 得到 11 和 13 次最终数值匹配,只留结论得到 4 和 3 次,原始指令模型得到 7 次。dev 上的结果更混合:保留解释为 8 和 10 次,原始模型为 9 次。
解释这些数字时,要同时看监督预算。每个训练条件都使用 45 道题、3 个 epoch 和 36 步优化,但保留解释的监督 token 数是只留结论的约 5.96 倍。这是一个训练目标组合的小规模描述性对照,不能据此断言解释让模型学会了推理。
本页只报告 2026-10-04 完成的新运行。v1 和它的后续评测保留原样。较早 grouped-v2 的原始证据缺失,本次没有补造或复用那次的结果;设计前已经知道其摘要,因此也不能把这次称为盲独立复现。
五个条件的完整 dev / test 计数
每个条件评测相同的 18 道 dev 题和相同的 18 道 test 题,每个 split 都有库存、折扣门槛、连续百分比变化各 6 道。两个 seed 共享这些题目,不能视为两个独立测试集。下面没有按结果筛掉条件、seed 或 split。
Dev
| 条件 / seed | 最终数值 匹配 | 严格字段 值正确 | 严格字段 存在 |
|---|---|---|---|
| 原始指令模型 | 9/18 | 5/18 | 12/18 |
| 只留结论 · 17 | 6/18 | 6/18 | 18/18 |
| 保留解释 · 17 | 8/18 | 8/18 | 16/18 |
| 只留结论 · 29 | 5/18 | 5/18 | 18/18 |
| 保留解释 · 29 | 10/18 | 10/18 | 18/18 |
Test
| 条件 / seed | 最终数值 匹配 | 严格字段 值正确 | 严格字段 存在 |
|---|---|---|---|
| 原始指令模型 | 7/18 | 2/18 | 12/18 |
| 只留结论 · 17 | 4/18 | 4/18 | 18/18 |
| 保留解释 · 17 | 11/18 | 11/18 | 18/18 |
| 只留结论 · 29 | 3/18 | 3/18 | 18/18 |
| 保留解释 · 29 | 13/18 | 13/18 | 18/18 |
在两个 split 中,保留解释的计数都高于各自配对的只留结论条件。与原始模型相比,保留解释的 dev 结果在 seed 17 较低、seed 29 较高,test 结果则两者都较高。只留结论让严格字段更稳定地出现,但最终数值匹配少于原始模型。这里的样本量不足以支持广泛泛化或统计显著性结论。
这三列分别在量什么?
- 最终数值匹配
- 先从输出中提取有依据的最终数值,再与目标数值做规范化的精确比较。它只判断提取出的数值是否相等,不认证单位、答案相关性、完整指令遵循或推理过程。
- 严格字段值正确
- 输出完整,且末尾符合区分大小写的
Answer: <number>字段形式,字段中的数值等于目标值。允许末尾句点与空白。它比单纯提取最终数值更受作答格式影响。 - 严格字段存在
- 只观察末尾字段是否符合上述格式,不要求字段的数值正确,也不保证全文自洽。
例如原始模型 test 上的最终数值匹配是 7/18,而严格字段值正确是 2/18。二者的差距不能直接解释为能力差距;正确的最终值本身也不能证明解释或计算过程正确。
分组、训练与固定的边界
- 模型与数据:Qwen2.5-0.5B-Instruct 的固定版本,45 道合成英文文本训练题,三个任务模板。这不是语音模型实验,也不是雇主模型的基准结果。
- 按关键数值条件分组:库存题按初始总量与用掉数量;折扣题按商品小计与门槛;百分比题按初值与百分比。每组取一个代表,再划分 45/18/18 道 train/dev/test。分组避免新运行内部的同组跨集重叠,仍使用同一批模板;不同组可以有相同答案。与历史 v1 的条件重叠另有记录。
- 五个条件:新加载的原始指令模型,以及 answer-only / explained 两种训练目标各配 seed 17、29。每个条件均重新加载固定基础模型,不复用历史适配器;同 seed 的两种目标使用配对初始化与相同样本顺序。
- 训练:CPU LoRA,rank 8、alpha 16、dropout 0,只训练
q_proj、v_proj适配器。每个训练条件 3 个 epoch、batch size 4、36 步 AdamW,学习率 0.0002,共 135 次样本暴露。四次训练合计 144 步。 - 监督 token:按移位后实际参与损失的标签统计,每个只留结论条件为 1,095,每个保留解释条件为 6,522,比例约为 5.96。解释还重复了数值和中间信息,因此样本数与步数相同并不意味着监督量相同。
- 评测:使用最后一个 checkpoint,贪心生成,最多 512 个新 token。数据、评分器与完整运行清单在本次输出产生前固定;没有根据 dev/test 结果挑选 checkpoint、调整参数或提前停止。
180 份输出怎样完成评分
180 份输出均非空,也都没有达到生成长度上限。冻结的提取器自动处理了 177 份;另有 3 份存在歧义:原始模型 test 2 份、保留解释 seed 17 的 dev 1 份。
这 3 份输出进入打乱顺序、使用不透明 ID 的输出-only 队列。每份分别做了两次新的 assistant 复核,复核时不提供题目、目标答案、条件或 seed;两次结论全部一致,因此没有触发第三次复核。六份原始记录和逐字证据引文都保留在下载材料中。这是 assistant 复核,不是人工复核,也不代表统计独立的评审者。输出自身可能暴露的信息无法在不改动证据的情况下消除。
没有输出被排除或从分母移除。标准库评分复算检查输出、token/EOS/长度上限记录的一致性,但不重新执行 tokenizer 解码或模型生成。哈希和复核记录可以核对材料一致性,不能以密码学方式证明实际执行或复核者遵守了盲法。
为什么材料里还保留早期预检的限制?
这次完整对照已经完成。早期状态与失败记录保留,用来说明运行前后分别知道什么:
- 预检 001:短测试样例采用物理宽度 256,在原有内存保护处停止。失败被保留,没有作为实验结果计入。
- 预检 002:依据真实 token 化审计,将同一短样例的物理宽度改为观测到的最大计划宽度 130;训练数据、目标、超参数和保护阈值未改。此预检通过,但当时仍未测试完整优化器步骤、长监督目标或 512-token 评测。
- 完整运行:之后单独固定完整运行清单,使用实际 batch 长度的动态右填充,完成五个条件、144 个优化步骤和 180 份评测输出;没有触发保护停止,也没有重试完整运行。
保留的源协议与生成报告中,integration only、candidate unfrozen、optimizer untested、full-run implementation still required 等措辞属于较早的准备阶段。它们描述当时尚未验证的事项,不应读作本次完整比较仍未执行。现阶段状态应结合本页与下载材料的说明阅读,早期文件没有被事后改写成“当时就已完成”。
资源记录
完整执行耗时 3,173.289 秒(52.89 分钟)。独立采样监控观测到的进程 high-water 求和峰值为 5,241,552,896 字节(4.882 GiB),最低可用内存为 4,142,538,752 字节(3.858 GiB)。原有 6 GiB 进程内存保护、2 GiB 可用内存底线和全程 90 分钟时限保持不变。采样监控不是内核级硬内存限制。
下载与复算
公开包保留全部 180 份原始输出、六份 assistant 复核记录、冻结的数据和相关源代码、模型版本信息、各任务及各条件计数。它是经过说明的科学证据子集:公开所需材料与转换清单随包提供,未将含私有运行环境与存储引用的归档原样发布。
- 下载完整公开证据包(ZIP)
- 材料说明、当前阶段与复算步骤
- 标准库审计脚本 · 需放在解压后的证据包内使用
- 下载文件的 SHA-256 清单
审计脚本用于核对公开材料、重新生成数据并复算评分;它不会重新训练模型或运行推理。源代码与固定依赖用于检查和另行复现,本页不把评分复算当作训练复现。
本次冻结与完成记录的摘要
冻结运行清单 SHA-256a3e3f8c1c005772e2a9f01764442585ea381c5d2f310bc9e97d161c789a8f463
完整运行完成记录 SHA-25631f64d68e0116122a8e433939872f6ca303d7a5c212dede097f694452a0c513c
公开材料的转换与文件校验和以证据包内的说明为准。这两个摘要关联原始记录,不表示公开子集与完整私有归档逐字节相同。
这次可报告的是:在这一模型、这些合成题和这些训练设置下,两个训练目标组合得到了上面的数值与格式计数。要进一步判断机制或在实际语音交互中的效果,还需要更大、更多样的独立题集,以及更充分的监督预算和中间信息控制。