Paper Review: Reward-Tilted On-Policy Distillation for Acoustic Grounding in Audio-Language Models

论文类型: 方法型

RT-OPD 在 on-policy distillation 里改了一处:同一个冻结的 7B teacher 在学生生成的前缀上分别带音频、不带音频各算一次 next-token 分布,用两者的 log 概率差 $r_t(v)=\log p^M_{T,t}(v)-\log p^{\varnothing}{T,t}(v)$ 去倾斜 teacher 分布,得到 $q{\alpha,t}\propto p^M_{T,t}\exp(\alpha r_t)$,学生对它做 reverse KL。

等价写法是 $q_{\alpha,t}\propto (p^M_{T,t})^{1+\alpha}/(p^{\varnothing}_{T,t})^{\alpha}$,$\alpha=0$ 退回标准 OPD。论文用 Ke-Omni-R-3B 和 Qwen2.5-Omni-3B 两个学生、MMAU / MMAR / ADQA-clean 三个测试集验证,并把 Ke 版本发布为 Mizar-3B。

实验结果审查

结果到底怎么样

在论文 Table 2 中,最强的同设置基线是 Vanilla OPD。

学生 指标 Vanilla OPD RT-OPD 绝对差 相对差
Ke-Omni-R-3B MMAU $72.21$ $72.72$ $+0.51$ $+0.7\%$
Ke-Omni-R-3B MMAR $57.78$ $60.08$ $+2.30$ $+4.0\%$
Ke-Omni-R-3B ADQA-cl. $56.02$ $56.45$ $+0.43$ $+0.8\%$
Ke-Omni-R-3B Macro-3 $62.00\pm0.31$ $63.08\pm0.36$ $+1.08$ $+1.7\%$
Qwen2.5-Omni-3B MMAU $71.66$ $72.18$ $+0.52$ $+0.7\%$
Qwen2.5-Omni-3B MMAR $55.90$ $58.90$ $+3.00$ $+5.4\%$
Qwen2.5-Omni-3B ADQA-cl. $54.83$ $55.70$ $+0.87$ $+1.6\%$
Qwen2.5-Omni-3B Macro-3 $60.79\pm0.24$ $62.26\pm0.15$ $+1.47$ $+2.4\%$

两个学生六个格子方向全部一致,这一点是成立的。

而增益几乎都集中在 MMAR。MMAU 和 ADQA-clean 上只有 $0.4$–$0.9$ 个点,Macro-3 被 MMAR 的 $2.3$ / $3.0$ 拉起来。

对 CAAD,RT-OPD 在 Ke 上 Macro-3 高 $2.53$,在 Qwen 上高 $2.46$。但 CAAD 在论文复现里连 Vanilla OPD 都打不过(Ke $60.55$ vs $62.00$),它同时换了 forward KL、去掉了 gold-answer CE、换成 teacher 预生成轨迹,三处变量叠在一起,这个对比很难归因到”对比信号放在 on-policy 上”这一点。

Mizar-3B 的 Macro-3 为 $63.08$,7B teacher 为 $63.47$,差 $0.39$。在 Table 1 的 MMAU 排行上 Mizar-3B 以 $72.72$ 排第 4。

有没有躲开的基线

先说同一条路线上该比而没比的方法。

第一,$\alpha$ 扫描。$\alpha=0$ 就是 Vanilla OPD,正文只报了 $\alpha=1$、$\lambda=0.25$ 一组。一种可能的理解是作者在 MMAU test-mini 上调过,但 $\alpha\in{0.25,0.5,2}$ 的曲线是这个方法最小、最便宜的消融,缺了它就看不出增益对 $\alpha$ 是否稳定。

第二,推理时 audio-aware decoding(Hsu et al., ASRU 2025,论文自己引了 [24])。把同样的有/无音频对比放在 Vanilla OPD 学生的解码阶段,不需要再训练。RT-OPD 的卖点之一是”训练时用、部署时不用”,那就应该给出推理时对比解码能拿多少,再说明省掉的推理开销值多少分。

第三,CORD(arXiv 2601.16547,2026-01,已收 ACL 2026 Findings)、X$^3$-OPD(arXiv 2607.21550,2026-07)、OPOD(arXiv 2607.20918,2026-07)。三者都是音频或全模态上的 on-policy distillation,CORD 也用加权 reverse KL。论文只在 Related Work 里一句带过,没有一个进实验表。这三篇是否放出权重,本次未能逐一核实。

第四,GRPO 类 RL 后训练。Ke-Omni-R 本身就是 GRPO + 10k 样本的配方,学生和 teacher 都出自它。在同样 10k AudioMCQ 子集上对 3B 学生继续跑 GRPO 是最自然的非蒸馏基线,Table 2 里没有。

第五,Audio-Contribution-Aware Post-Training(He et al., ICLR 2026,论文引了 [6])。训练集 AudioMCQ-StrongAC 正是这条工作的产物,它的思路就是按音频贡献筛选/加权训练数据,和 RT-OPD 要解决的”文本捷径”是同一个问题。没有对比。

再说 Table 1 的模型级排行。

Table 1 直接搬运 MMAU 官方榜(含 community reports,2026-09-13 访问),没有列 Qwen3-Omni。GitHub 上 QwenLM/Qwen3-Omni 仓库存在且在持续更新,它是 Qwen2.5-Omni 的直接后继,按”3B 级”口径它的 MoE 激活参数也在同一量级,理应出现在排行里。本次检索没有拿到它的 MMAU test 数字,不做断言。

OpenAlex 检索到 2026-09-18 的 Samsone(”A Family of Open Small Audio Language Models for On-Device Inference”),与”3B 最佳”的声称直接相关;free-search 走 bing 没搜到正文,尺寸和分数未能核实。

基线年份

基线 年份 备注
Ke-Omni-R-3B(学生起点) 2025 公开权重;Ke 官方 README 报 MMAU Test $65.17$,论文 Table 2 报 $68.70$,评测协议不同
Qwen2.5-Omni-3B(学生起点) 2025 公开权重
CE only — 作者自建
Vanilla OPD(Agarwal et al. / MiniLLM) 2024 算法 2024,但在本文设置下由作者用同一套超参实现,算公平对照
CAAD 2026 arXiv 2606.23052,Interspeech 2026;作者复现,原文用于 Dynamic-SUPERB 设置,迁移后表现低于 Vanilla OPD
Model ref.(G-OPD-style,消融) 2026 arXiv 2602.12125,只作为消融变体,非原方法完整复现
Table 1 排行各模型 2024–2026 最新为 Audio-Thinker(AAAI 2026),其余多为 2025

Table 2 的方法基线里最新的是 2026 年的 CAAD,年份上过关。问题在于缺的是 2026 年同路线的 OPD 方法(CORD、X$^3$-OPD、OPOD),而唯一进表的 2026 方法 CAAD 是一个被迁移、表现偏弱的复现版本。

Ke-Omni-R-3B 起点分数的出入值得记一笔:Ke 官方 README 的 MMAU Test 是 $65.17$,论文 Table 2 是 $68.70$,差了 $3.5$ 个点。论文用的是带 vocabulary mask 的 vLLM 评测流水线(见仓库 README),这说明协议差异本身就能带来几个点的波动,而 Table 1 把 Mizar-3B 的五 seed 均值和榜上各家自报的单次数字放在一张表里排名。论文脚注承认了”Protocols and parameter-count conventions differ”,但”3B 最佳、第 4 名”的标题式声称依然建立在这张口径不一的表上。

增益是否超出评测误差

论文做了五 seed,但标准差只报到 Macro-3,单个 benchmark 没有方差,也没有显著性检验。

仓库 results/main_results.json 放出了 RT-OPD 的逐 seed 分数,Vanilla OPD 的逐 seed 分数没有放出。按 Ke 的五个 seed 算:

在 Macro-3 上,假设两组独立,差值 $1.08$ 除以合成标准误 $\sqrt{0.36^2/5+0.31^2/5}\approx0.21$,约 $5$ 倍。Qwen 上 $1.47/\sqrt{0.15^2/5+0.24^2/5}\approx1.47/0.13$,约 $11$ 倍。因此在 seed 噪声这一层,Macro-3 的提升是站得住的。

测试集抽样噪声是另一层。按二项分布粗估(估算,非论文报告):MMAU $9000$ 题、准确率约 $72\%$ 时标准误约 $0.47$ 点;MMAR $1000$ 题、约 $60\%$ 时约 $1.55$ 点;ADQA-cl. $1577$ 题、约 $56\%$ 时约 $1.25$ 点。

放在这个量级下看:

两方法在同一题集上比较是配对的,真实的配对噪声会比上面的独立估计小,但论文没有给 McNemar 之类的配对检验,无法确认。

评测本身没有循环问题:三个测试集都是多选准确率,MMAU test 走官方隐藏标签打分,没有 LLM-as-judge。超参在 MMAU test-mini 上调,和 MMAU test 分开。

Table 4 是”声学 grounding 增强”这个核心声称的唯一证据,我认为它撑不起这个结论。

测试集 条件 Vanilla OPD RT-OPD 扰动后准确率差
MMAU Silence $52.20$ $52.03$ $-0.17$
MMAU Replaced $48.56$ $47.07$ $-1.49$
MMAR Silence $38.62$ $37.62$ $-1.00$
MMAR Replaced $38.74$ $38.44$ $-0.30$
ADQA-cl. Silence $24.27$ $25.16$ $+0.89$
ADQA-cl. Replaced $26.32$ $26.24$ $-0.08$

扰动后两者的准确率基本重合,差值都在一个点上下,ADQA-cl. silence 条件下 RT-OPD 反而更高。”降幅更大”主要来自 RT-OPD 的原始分更高,尤其 MMAR 上原始分高 $2.30$,降幅就大 $3.30$ / $2.60$。

在 MMAU 静音条件下两者都还有约 $52\%$ 的准确率,远高于四选一的随机水平,说明文本先验在两种方法里都依然很强,RT-OPD 没有显著削弱它。论文用词是 “suggest”,在论文设置中这组数字也只到”不矛盾”的程度。

公理审查结果

公理一:对象公理

公理二:识别公理

公理三:独立性公理

公理四:压缩公理

公理五:效用公理

公理六:新颖性公理

公理七:可复现公理

总评

这篇的优点在于对照做得干净。Vanilla OPD 与 RT-OPD 只差一个 target,两个学生、五个 seed、三个测试集,方向全部一致;Sharpening、Model ref.、Off-policy 三组消融分别排除了三种替代解释。方法本身很省:一次额外的 teacher 前向、一个系数,闭式目标和式 5 的分解也讲得清楚。代码、adapter 和逐 seed 结果都放了出来。

主要问题在于证据和声称之间的距离。

第一,”acoustic grounding 增强”只有 Table 4 一组扰动实验支撑,而扰动后的绝对准确率与 Vanilla OPD 几乎重合,”降幅更大”主要来自原始分更高。

第二,Macro-3 的提升主要由 $1000$ 题的 MMAR 贡献,MMAU 和 ADQA-cl. 上的增益在一个测试集标准误以内,单 benchmark 没有方差和配对检验。

第三,识别层面缺了 $\alpha$ 扫描、推理时对比解码、2026 年同路线的 CORD / X$^3$-OPD / OPOD、以及 GRPO 基线,唯一进表的 2026 方法 CAAD 是一个弱化的迁移复现。

第四,Table 1 的”3B 最佳、第 4 名”建立在跨协议的榜单拼接上,学生起点在论文协议下就比官方 README 高 $3.5$ 点。

新颖性上它是 CAAD + OPD + G-OPD 倾斜形式的组合。作为一个 Interspeech 级别的增量方法是合格的,作为”解决文本捷径”的工作,还需要更直接的 grounding 证据。

日报摘要

打分

Axiom 判定 分数 权重 加权分
一 对象公理 ⚠️ 7 1.0 7.0
二 识别公理 ⚠️ 5 1.5 7.5
三 独立性公理 ✅ 8 1.0 8.0
四 压缩公理 ✅ 8 1.0 8.0
五 效用公理 ⚠️ 6 2.0 12.0
六 新颖性公理 ⚠️ 4 2.0 8.0
七 可复现公理 ✅ 8 1.0 8.0

加权总分: 6.16/10(加权分之和 58.5 / 权重之和 9.5) 最终建议: Borderline