RT-OPD 在 on-policy distillation 里改了一处:同一个冻结的 7B teacher 在学生生成的前缀上分别带音频、不带音频各算一次 next-token 分布,用两者的 log 概率差 $r_t(v)=\log p^M_{T,t}(v)-\log p^{\varnothing}{T,t}(v)$ 去倾斜 teacher 分布,得到 $q{\alpha,t}\propto p^M_{T,t}\exp(\alpha r_t)$,学生对它做 reverse KL。
等价写法是 $q_{\alpha,t}\propto (p^M_{T,t})^{1+\alpha}/(p^{\varnothing}_{T,t})^{\alpha}$,$\alpha=0$ 退回标准 OPD。论文用 Ke-Omni-R-3B 和 Qwen2.5-Omni-3B 两个学生、MMAU / MMAR / ADQA-clean 三个测试集验证,并把 Ke 版本发布为 Mizar-3B。
在论文 Table 2 中,最强的同设置基线是 Vanilla OPD。
| 学生 | 指标 | Vanilla OPD | RT-OPD | 绝对差 | 相对差 |
|---|---|---|---|---|---|
| Ke-Omni-R-3B | MMAU | $72.21$ | $72.72$ | $+0.51$ | $+0.7\%$ |
| Ke-Omni-R-3B | MMAR | $57.78$ | $60.08$ | $+2.30$ | $+4.0\%$ |
| Ke-Omni-R-3B | ADQA-cl. | $56.02$ | $56.45$ | $+0.43$ | $+0.8\%$ |
| Ke-Omni-R-3B | Macro-3 | $62.00\pm0.31$ | $63.08\pm0.36$ | $+1.08$ | $+1.7\%$ |
| Qwen2.5-Omni-3B | MMAU | $71.66$ | $72.18$ | $+0.52$ | $+0.7\%$ |
| Qwen2.5-Omni-3B | MMAR | $55.90$ | $58.90$ | $+3.00$ | $+5.4\%$ |
| Qwen2.5-Omni-3B | ADQA-cl. | $54.83$ | $55.70$ | $+0.87$ | $+1.6\%$ |
| Qwen2.5-Omni-3B | Macro-3 | $60.79\pm0.24$ | $62.26\pm0.15$ | $+1.47$ | $+2.4\%$ |
两个学生六个格子方向全部一致,这一点是成立的。
而增益几乎都集中在 MMAR。MMAU 和 ADQA-clean 上只有 $0.4$–$0.9$ 个点,Macro-3 被 MMAR 的 $2.3$ / $3.0$ 拉起来。
对 CAAD,RT-OPD 在 Ke 上 Macro-3 高 $2.53$,在 Qwen 上高 $2.46$。但 CAAD 在论文复现里连 Vanilla OPD 都打不过(Ke $60.55$ vs $62.00$),它同时换了 forward KL、去掉了 gold-answer CE、换成 teacher 预生成轨迹,三处变量叠在一起,这个对比很难归因到”对比信号放在 on-policy 上”这一点。
Mizar-3B 的 Macro-3 为 $63.08$,7B teacher 为 $63.47$,差 $0.39$。在 Table 1 的 MMAU 排行上 Mizar-3B 以 $72.72$ 排第 4。
先说同一条路线上该比而没比的方法。
第一,$\alpha$ 扫描。$\alpha=0$ 就是 Vanilla OPD,正文只报了 $\alpha=1$、$\lambda=0.25$ 一组。一种可能的理解是作者在 MMAU test-mini 上调过,但 $\alpha\in{0.25,0.5,2}$ 的曲线是这个方法最小、最便宜的消融,缺了它就看不出增益对 $\alpha$ 是否稳定。
第二,推理时 audio-aware decoding(Hsu et al., ASRU 2025,论文自己引了 [24])。把同样的有/无音频对比放在 Vanilla OPD 学生的解码阶段,不需要再训练。RT-OPD 的卖点之一是”训练时用、部署时不用”,那就应该给出推理时对比解码能拿多少,再说明省掉的推理开销值多少分。
第三,CORD(arXiv 2601.16547,2026-01,已收 ACL 2026 Findings)、X$^3$-OPD(arXiv 2607.21550,2026-07)、OPOD(arXiv 2607.20918,2026-07)。三者都是音频或全模态上的 on-policy distillation,CORD 也用加权 reverse KL。论文只在 Related Work 里一句带过,没有一个进实验表。这三篇是否放出权重,本次未能逐一核实。
第四,GRPO 类 RL 后训练。Ke-Omni-R 本身就是 GRPO + 10k 样本的配方,学生和 teacher 都出自它。在同样 10k AudioMCQ 子集上对 3B 学生继续跑 GRPO 是最自然的非蒸馏基线,Table 2 里没有。
第五,Audio-Contribution-Aware Post-Training(He et al., ICLR 2026,论文引了 [6])。训练集 AudioMCQ-StrongAC 正是这条工作的产物,它的思路就是按音频贡献筛选/加权训练数据,和 RT-OPD 要解决的”文本捷径”是同一个问题。没有对比。
再说 Table 1 的模型级排行。
Table 1 直接搬运 MMAU 官方榜(含 community reports,2026-09-13 访问),没有列 Qwen3-Omni。GitHub 上 QwenLM/Qwen3-Omni 仓库存在且在持续更新,它是 Qwen2.5-Omni 的直接后继,按”3B 级”口径它的 MoE 激活参数也在同一量级,理应出现在排行里。本次检索没有拿到它的 MMAU test 数字,不做断言。
OpenAlex 检索到 2026-09-18 的 Samsone(”A Family of Open Small Audio Language Models for On-Device Inference”),与”3B 最佳”的声称直接相关;free-search 走 bing 没搜到正文,尺寸和分数未能核实。
| 基线 | 年份 | 备注 |
|---|---|---|
| Ke-Omni-R-3B(学生起点) | 2025 | 公开权重;Ke 官方 README 报 MMAU Test $65.17$,论文 Table 2 报 $68.70$,评测协议不同 |
| Qwen2.5-Omni-3B(学生起点) | 2025 | 公开权重 |
| CE only | — | 作者自建 |
| Vanilla OPD(Agarwal et al. / MiniLLM) | 2024 | 算法 2024,但在本文设置下由作者用同一套超参实现,算公平对照 |
| CAAD | 2026 | arXiv 2606.23052,Interspeech 2026;作者复现,原文用于 Dynamic-SUPERB 设置,迁移后表现低于 Vanilla OPD |
| Model ref.(G-OPD-style,消融) | 2026 | arXiv 2602.12125,只作为消融变体,非原方法完整复现 |
| Table 1 排行各模型 | 2024–2026 | 最新为 Audio-Thinker(AAAI 2026),其余多为 2025 |
Table 2 的方法基线里最新的是 2026 年的 CAAD,年份上过关。问题在于缺的是 2026 年同路线的 OPD 方法(CORD、X$^3$-OPD、OPOD),而唯一进表的 2026 方法 CAAD 是一个被迁移、表现偏弱的复现版本。
Ke-Omni-R-3B 起点分数的出入值得记一笔:Ke 官方 README 的 MMAU Test 是 $65.17$,论文 Table 2 是 $68.70$,差了 $3.5$ 个点。论文用的是带 vocabulary mask 的 vLLM 评测流水线(见仓库 README),这说明协议差异本身就能带来几个点的波动,而 Table 1 把 Mizar-3B 的五 seed 均值和榜上各家自报的单次数字放在一张表里排名。论文脚注承认了”Protocols and parameter-count conventions differ”,但”3B 最佳、第 4 名”的标题式声称依然建立在这张口径不一的表上。
论文做了五 seed,但标准差只报到 Macro-3,单个 benchmark 没有方差,也没有显著性检验。
仓库 results/main_results.json 放出了 RT-OPD 的逐 seed 分数,Vanilla OPD 的逐 seed 分数没有放出。按 Ke 的五个 seed 算:
在 Macro-3 上,假设两组独立,差值 $1.08$ 除以合成标准误 $\sqrt{0.36^2/5+0.31^2/5}\approx0.21$,约 $5$ 倍。Qwen 上 $1.47/\sqrt{0.15^2/5+0.24^2/5}\approx1.47/0.13$,约 $11$ 倍。因此在 seed 噪声这一层,Macro-3 的提升是站得住的。
测试集抽样噪声是另一层。按二项分布粗估(估算,非论文报告):MMAU $9000$ 题、准确率约 $72\%$ 时标准误约 $0.47$ 点;MMAR $1000$ 题、约 $60\%$ 时约 $1.55$ 点;ADQA-cl. $1577$ 题、约 $56\%$ 时约 $1.25$ 点。
放在这个量级下看:
两方法在同一题集上比较是配对的,真实的配对噪声会比上面的独立估计小,但论文没有给 McNemar 之类的配对检验,无法确认。
评测本身没有循环问题:三个测试集都是多选准确率,MMAU test 走官方隐藏标签打分,没有 LLM-as-judge。超参在 MMAU test-mini 上调,和 MMAU test 分开。
Table 4 是”声学 grounding 增强”这个核心声称的唯一证据,我认为它撑不起这个结论。
| 测试集 | 条件 | Vanilla OPD | RT-OPD | 扰动后准确率差 |
|---|---|---|---|---|
| MMAU | Silence | $52.20$ | $52.03$ | $-0.17$ |
| MMAU | Replaced | $48.56$ | $47.07$ | $-1.49$ |
| MMAR | Silence | $38.62$ | $37.62$ | $-1.00$ |
| MMAR | Replaced | $38.74$ | $38.44$ | $-0.30$ |
| ADQA-cl. | Silence | $24.27$ | $25.16$ | $+0.89$ |
| ADQA-cl. | Replaced | $26.32$ | $26.24$ | $-0.08$ |
扰动后两者的准确率基本重合,差值都在一个点上下,ADQA-cl. silence 条件下 RT-OPD 反而更高。”降幅更大”主要来自 RT-OPD 的原始分更高,尤其 MMAR 上原始分高 $2.30$,降幅就大 $3.30$ / $2.60$。
在 MMAU 静音条件下两者都还有约 $52\%$ 的准确率,远高于四选一的随机水平,说明文本先验在两种方法里都依然很强,RT-OPD 没有显著削弱它。论文用词是 “suggest”,在论文设置中这组数字也只到”不矛盾”的程度。
--include=*.md 通配报错,改用不带 include 的 grep 只命中 2026-07 的 log 文件,没有找到同主题评审可作锚点。AudioLLMs/dcase2026_task5_AudioMCQ-StrongAC-GeminiCoT 与 Harland/DCASE2026-Task5-DevSet 由 README 给出链接,本次未下载核对。results/main_results.json(Ke MMAR 极差 $2.5$ 点)。README 说明发布的 Mizar-3B adapter 是五个 seed 中按 Macro-3 事后挑选的 seed 85($63.65$),论文正文报的是五 seed 均值 $63.08$,这一点作者在 README 中有区分。gh api 读到仓库 1 star、创建于 2026-09-15,目录含 ke/、qwen/、results/、tools/、docs/。HuggingFace API 显示 KaiyangLi/Mizar-3B 公开可访问、34 次下载;KE-Team/Ke-Omni-R-3B、Qwen/Qwen2.5-Omni-3B 均为公开权重。这篇的优点在于对照做得干净。Vanilla OPD 与 RT-OPD 只差一个 target,两个学生、五个 seed、三个测试集,方向全部一致;Sharpening、Model ref.、Off-policy 三组消融分别排除了三种替代解释。方法本身很省:一次额外的 teacher 前向、一个系数,闭式目标和式 5 的分解也讲得清楚。代码、adapter 和逐 seed 结果都放了出来。
主要问题在于证据和声称之间的距离。
第一,”acoustic grounding 增强”只有 Table 4 一组扰动实验支撑,而扰动后的绝对准确率与 Vanilla OPD 几乎重合,”降幅更大”主要来自原始分更高。
第二,Macro-3 的提升主要由 $1000$ 题的 MMAR 贡献,MMAU 和 ADQA-cl. 上的增益在一个测试集标准误以内,单 benchmark 没有方差和配对检验。
第三,识别层面缺了 $\alpha$ 扫描、推理时对比解码、2026 年同路线的 CORD / X$^3$-OPD / OPOD、以及 GRPO 基线,唯一进表的 2026 方法 CAAD 是一个弱化的迁移复现。
第四,Table 1 的”3B 最佳、第 4 名”建立在跨协议的榜单拼接上,学生起点在论文协议下就比官方 README 高 $3.5$ 点。
新颖性上它是 CAAD + OPD + G-OPD 倾斜形式的组合。作为一个 Interspeech 级别的增量方法是合格的,作为”解决文本捷径”的工作,还需要更直接的 grounding 证据。
| Axiom | 判定 | 分数 | 权重 | 加权分 |
|---|---|---|---|---|
| 一 对象公理 | ⚠️ | 7 | 1.0 | 7.0 |
| 二 识别公理 | ⚠️ | 5 | 1.5 | 7.5 |
| 三 独立性公理 | ✅ | 8 | 1.0 | 8.0 |
| 四 压缩公理 | ✅ | 8 | 1.0 | 8.0 |
| 五 效用公理 | ⚠️ | 6 | 2.0 | 12.0 |
| 六 新颖性公理 | ⚠️ | 4 | 2.0 | 8.0 |
| 七 可复现公理 | ✅ | 8 | 1.0 | 8.0 |
加权总分: 6.16/10(加权分之和 58.5 / 权重之和 9.5) 最终建议: Borderline