我已经掌握了所有必要的事实。让我来撰写评审。

Paper Review: Allocation Before Ranking: Decoupled Token Compression for OmniLLMs

论文类型: 方法型

公理审查结果

公理一：对象公理

• 判定: ✅
• 分数: 8
• 依据: 论文识别了一个真实的结构性问题：在共享解码器的 OmniLLM 中，shared top-K ranking 用同一个 attention score 同时决定 (1) 跨模态容量分配（audio vs. video 保留多少）和 (2) 模态内 token 选择（保留哪些）。这个问题有精确的数学形式化（Eq. 1-2 的 attention decomposition，将 log(mass_a/mass_v) 分解为 q^T(c_a - c_v) 分配项和模态内残差项）。三个诊断观察有控制实验支撑：null-content controls（silence/white noise/mismatched audio）排除了 positional sink 解释；distance-matched 分析排除了纯距离效应；frame-count diagnostic 排除了 12-frame 设置偏差。问题在 Qwen2.5-Omni 和 OmniVinci-9B 两个 backbone 上均存在，具有广泛性。对象清晰、可操作化、非虚构。
• Wiki 证据: OMC wiki 无记录。paper-wiki 中找到 Qwen2.5-Omni 技术报告 (2503.20215)，确认其 shared-decoder 架构。free-search 确认 OmniLLM 领域存在多篇同期 token compression 工作（OmniZip, OmniScope, Omni-Prune, ContextGuard, DASH），证实该问题是活跃的研究方向。

公理二：识别公理

• 判定: ✅
• 分数: 8
• 依据: 消融实验（Table 4）清晰隔离了各组件贡献：shared top-K ranking → 54.81；MACER core（explicit split + ANMS + asymmetric readout, no coverage）→ 56.54（+1.73）；full MACER（+coverage）→ 56.85（+0.31）。主要增益（+1.73）来自 allocation-selection 解耦，而非 coverage 附加项（+0.31），与论文 claim 一致。实验在统一 protocol（LMMs-Eval, 统一 token-accounting）下进行，Random/FastV/OmniZip baseline 使用相同 backbone 和数据。α robustness audit（Table 14）显示 frozen α=0.30 处于稳定带，per-benchmark oracle 仅提升 0.92 pp，排除了超参调优偷走贡献的可能。
• Wiki 证据: OMC wiki 无记录。paper-wiki 无相关 ablation 记录。free-search 确认 OmniZip (2511.14582) 是最近的 encoder-side audio-guided 压缩器，作为强 baseline 合理。

公理三：独立性公理

• 判定: ✅
• 分数: 9
• 依据: 方法是 training-free 的，不涉及训练数据、reward model 或 synthetic pipeline。评测使用标准 benchmark（AVUTBench, DailyOmni, WorldSense, Video-MME）通过 LMMs-Eval 框架运行。calibration split（~100 clips）与所有评测集 disjoint。不存在 judge 污染、数据生成-评测闭环或部署时不可得信息依赖。backbone（Qwen2.5-Omni, OmniVinci-9B）均为开源模型。
• Wiki 证据: OMC wiki 无记录。paper-wiki 中 Qwen2.5-Omni (2503.20215) 确认模型为开源。free-search 确认 benchmark 均为公开数据集。

公理四：压缩公理

• 判定: ✅
• 分数: 8
• 依据: MACER 的核心是对问题的结构性重构：将一个耦合决策（shared top-K）分解为两个独立决策（capacity allocation + modality-local selection）。方法实现简洁：explicit capacity split（Eq. 5-6）+ allocation-normalized scoring（Eq. 4, 仅做模态内 row-wise normalization）+ modality-specific readout layer + 轻量 video coverage bonus（Eq. 8, 一个 diminishing return 项）。无训练、无模型修改、单次 forward pass、无额外参数。attention decomposition（Eq. 1-2）是真正的理论压缩——用一个代数分解解释了为什么 shared attention 不是中立的 saliency 空间。没有命名膨胀。
• Wiki 证据: OMC wiki 无记录。free-search 确认 ANMS（模态内归一化）和 explicit capacity split 在本领域此前未被以这种方式提出（OmniZip 使用 encoder-side audio-guided scheme，未做 decoder-side explicit allocation）。

公理五：效用公理

• 判定: ⚠️
• 分数: 7

• 依据: 绝对指标强：25% retention 下 7B 保留 98.7%、3B 保留 97.3% 的 full-token 性能。相对提升一致：7B 上 12 个 matched benchmark-ratio cells 中赢 10 个，3B 上赢 11 个。Pareto comparison（Table 1）显示 25% retention 的 MACER 在更低 FLOPs 下超越 45% retention 的 OmniZip。端到端效率（Table 3）在 latency、memory、decode time 上全面优于 OmniZip。OmniVinci-9B transfer（Table 19）显示跨 backbone 迁移性，最高提升 +12.9 pp。

  但 baseline 覆盖有限：主表仅比较 Random、FastV、OmniZip 三个 baseline。DASH 比较仅在 appendix（Table 16, 6 cells）。论文发表时（2026-08-03），存在多个同期工作未被比较：OmniScope (2607.23193, 2026-07-25)、Omni-Prune (2607.23445, 2026-07-26)、ContextGuard (2605.11605, 2026-05-12)。其中 OmniScope 在 Qwen2.5-Omni 上报告 25% retention 下仅 0.35 pp 平均精度下降，性能与 MACER 相当，但未做 head-to-head 比较。虽然部分为同期工作，但 ContextGuard（2026-05-12，早 3 个月）不应被视为同期。baseline 集对方法型论文偏薄。

• Wiki 证据: OMC wiki 无记录。free-search 确认 OmniZip (2511.14582, CVPR 2026) 是最近强 baseline。DASH (2603.15685) 为同期工作。OmniScope (2607.23193) 在 2026-07-25 发表，与 MACER 同期，也使用 Qwen2.5-Omni 7B/3B，在 4 个 audio-video benchmark 上评测，25% retention 下 0.35 pp 平均下降——性能水平与 MACER 相似，但论文未引用或比较。

公理六：新颖性公理

• 判定: ⚠️
• 分数: 6

• 依据: “Allocation before ranking” 的概念框架和 attention decomposition（Eq. 1-2）是真实的理论贡献——将 shared top-K 的耦合问题用代数形式精确表达，并设计三组件解耦方案，这是增量创新。

  但核心 idea——”modality-specific token budgets + modality-local scoring”——与同期工作 OmniScope (2607.23193, 2026-07-25, 发表时间仅早 9 天) 高度重叠。OmniScope 明确提出 “share the query across modalities, but not the salience estimates” 和 “allocates modality-specific token budgets”，与 MACER 的 “allocation before ranking” 本质相同。两者都是 training-free、都用 Qwen2.5-Omni、都在类似 benchmark 上评测。

  按 skill 规则，2 个月内同期工作不作为强扣分依据。OmniScope（9 天前）符合同期定义。但核心 idea 的独立发现意味着 MACER 的 novelty 不在概念层面（modality-specific budget），而在具体实现层面（ANMS 的 row-wise normalization、asymmetric readout layers、video coverage bonus、attention decomposition 的理论分析）。这些实现层面的贡献是真实的增量，但不足以支撑强 novelty 判定。

  ContextGuard (2605.11605, 2026-05-12, 早 ~3 个月) 也处理 audio-video token pruning 中的模态关系问题，虽方法不同（predict visual semantics from audio），但论文未引用。这不属于同期（>2 个月），构成 novelty 上下文的一个缺口。

• Wiki 证据: OMC wiki 无记录。paper-wiki 无相关记录。free-search 发现 OmniScope (2607.23193) 和 Omni-Prune (2607.23445) 均为 2026-07 下旬发表，属同期工作。ContextGuard (2605.11605) 为 2026-05 发表，超出了同期窗口。

公理七：可复现公理

• 判定: ⚠️
• 分数: 6

• 依据: 论文提供了详细的可复现信息：完整算法（Table 8, 7 步伪代码）、scale-specific 超参（Table 7: ℓa, ℓv, α, λc, C）、FLOPs 计算公式（Eq. 20-22）、评测 protocol（LMMs-Eval, greedy decoding, FlashAttention-2）。backbone 均为开源模型。benchmark 均为公开数据集。

  但代码尚未开源——论文仅声明 “Code and calibrated configurations will be released upon publication”，这是承诺而非交付。对于 staging pruning 的实现（在 forward pass 中间层做 token removal 并继续推理），工程实现细节对复现至关重要，缺少代码会增加复现难度。calibration split 的具体数据也未公开。

• Wiki 证据: OMC wiki 无记录。free-search 确认 OmniZip 有公开代码 (github.com/kd-tao/omnizip)，作为对比 MACER 目前无代码仓库。

日报摘要

• Strength: 通过 attention decomposition 精确识别了 shared top-K 中”一个 score 做两个决策”的结构性缺陷，并提出 allocation-before-ranking 解耦方案，25% retention 下在 Qwen2.5-Omni-7B 上保留 98.7% 性能且 Pareto 优于 OmniZip@45%。
• Weakness: Baseline 覆盖偏薄（主表仅 3 个），且核心 modality-decoupled budget idea 与同期工作 OmniScope 高度重叠，代码尚未开源。

总评

• 科学价值: 中 — attention decomposition 和三观察诊断提供了可靠的现象和机制解释，但核心概念（modality-specific budget）被同期工作独立发现，降低了独特性。
• 方法价值: 中 — MACER 的具体实现（ANMS + asymmetric readout + coverage）是有效的工程组合，ablation 证明各组件贡献，但每个单独组件的技术复杂度不高。
• 社区价值: 中 — 问题真实且活跃，方法 training-free 且实用，但缺少代码发布和更广的 baseline 比较限制了即时采用价值。

打分

加权总分: 7.26/10（加权分之和 69 / 权重之和 9.5） 最终建议: Weak Accept