黄avhuangav

电脑版下载

53933
9

黄avhuangav截图Q8X2R7L1T4J5M9B6W3

内容详情

黄avhuangav

随着多模态大模子（MLLMs）的飞速生长，模子已经能够很好地明确视频中 “爆发了什么（What）”，却无法精准地定位到事务在视频中 “何时爆发（When）”。这种视频时序定位（Video Temporal Grounding, VTG）能力的严重缺陷，已成为制约 MLLM 迈向更细腻化的视频明确的主要瓶颈。

恒久以来，大宗研究致力于设计重大的模子结构，却忽视了两个要害问题：在数据层面，我们依赖的评测基准是否可靠？在算法层面，是否保存一套精练通用的最佳实践？

针对上述痛点，来自南京大学、腾讯 ARC Lab 和上海 AI Lab 的联合研究团队提出了TimeLens（时间透镜），系统性地展现了现有数据的“评测陷阱”，构建出更可靠的评测基准和高质量训练数据，并探索出一套精练有用的算法优化。得益于这些孝顺，仅8B 参数的 TimeLens 模子成为了开源模子中的新 SOTA，更击败了 GPT-5 和 Gemini-2.5-Flash 等闭源巨头。

论文问题：TimeLens: Rethinking Video Temporal Grounding with Multimodal LLMs论文链接： https://arxiv.org/abs/2512.14698项目主页： https://timelens-arc-lab.github.io/代码链接： https://github.com/TencentARC/TimeLens

焦点洞察：拨开数据质量的迷雾

在深度学习中，“Data is fuel”（数据即燃料）是公认的真理。然而，团队发明，在 VTG 领域，燃料的质量却令人担心。

1. 现有基准的 “隐形陷阱”

研究团队通过一套标注流水线，对 Charades-STA、ActivityNet Captions 和 QVHighlights 等主流基准举行了严酷的人工核验，发明这些基准数据集中充满着大宗的标注过失。许多样本中的文本形貌模糊不清，或是文本形貌的事务在视频中基础未泛起。标注方面，也保存大宗的时间界线标注过失，或是统一形貌对应了视频中的多个片断却只标注了其中之一（漏标）。统计数据显示，这些过失在现有基准中的比例极高。

2. TimeLens-Bench：对评估效果的“拨乱横竖”

为相识决现有数据集中保存的严重过失，团队构建了严酷的标注准则，对上述三个基准数据集举行了周全的修复和重新标注，推出了TimeLens-Bench。这是一个经由严酷交织验证的高质量评测基准，能够更真实地反应模子的时序定位能力。

将 TimeLens-Bench 和原始 Benchmark 上的评测效果举行比照，揭破了过往评估效果的不可靠—— 旧基准严重高估了开源模子的能力，而掩饰了前沿闭源模子（如 Gemini）的真实水平。TimeLens-Bench 对这一过失举行了拨乱横竖，事实上，现有开源模子仍显着落伍于闭源模子。

3. 高质量训练数据：TimeLens-100K

针对同样低质量的训练数据，团队设计了一套自动化流水线，对训练数据举行了大规模的洗濯和重标，宣布了高质量的大型训练数据集 TimeLens-100K。实验证实，数据质量的提升能带来显著的性能增添。

算法设计的“最佳实践”

在夯实数据基础后，TimeLens 进一步对 MLLM 在 VTG 使命上的算法设计举行了全方位的消融实验，从时间戳编码到训练范式，总结出一套精练有用的 “最佳实践”。

1. 精练有用的时间戳编码

时间戳编码（timestamp encoding）是 VTG 使命中的要害模子结构设计，决议了模子能否准确地感知到输入的每一视频帧的采样时间。

团队周全地比照了种种时间戳编码方法的优劣。实验效果批注，最优的时间戳编码方法是简朴的交织文本编码（Interleaved Textual Encoding）战略，即在每一帧的视觉 Token 前插入文本形式的时间戳 token。这种要领无需修改 LLM 的底层架构，包管了实现上的精练，同时还能取得最优的效果。

2. 训练范式：Thinking-free RLVR 的胜利

随着 DeepSeek-R1 等一系列事情的提出，带有可验证奖励机制的强化学习（RLVR）范式在提升模子推理能力方面的作用备受关注。而在 VTG 领域，关于训练范式的几个要害问题尚无定论：

有监视微调（SFT）仍是 VTG 领域最为主流的训练范式，RLVR 范式在同样的训练开销下，是否显着优于 SFT？时序定位使命是一个以感知 (Perception) 而非推理 (Reasoning) 为主的使命。针对这样的使命举行 RLVR 训练时，显式的思索历程（thinking）是否是必需的？SFT+RLVR 的多阶段训练，是否比单阶段训练的效果更好？

TimeLens 比照了多种训练范式的优劣。结论出人意料且极具启发性：单阶段的 Thinking-free RLVR 训练范式在盘算效率和性能上均取得了最优。该范式直接让模子输出定位效果，并凭证定位准确率（IoU）给予奖励。这种方法不需要天生冗长的中心思索历程，训练和推理效率高于 Thinking-based RLVR 范式和多阶段训练范式，且性能优于 SFT 范式。

这一效果批注，关于时序定位这种偏向感知（Perception-heavy）的使命，显式的思索历程不是必需的。模子可以直接学习从使命输入到输出的映射，不需要举行重大的逻辑推理。

3. 要害训练技巧：Early Stopping 与 Difficulty-based Sampling

针对Thinking-free RLVR范式，团队举行了越发深入的实验探讨，发明了两个要害的训练技巧。

首先，与 SFT 中 “训练越久越好” 的共识差别，在 RL 训练中，当奖励指标进入平台期后，就应该接纳早息兵略（Early Stopping）连忙阻止训练，在该阶段之后继续训练反而会使得模子的性能下降。

其次，基于难度的数据采样（Difficulty-based Sampling）至关主要。纵然数据的标注质量有包管，也并非所有的数据都适适用于 RLVR 训练。需要预先使用待训练的模子举行推理，评估每个训练样本的难度，采样足够具有挑战性的样本举行 RLVR 训练，才华最洪流平上提升模子的性能。

实验验证：8B 模子逆袭闭源巨头

研究团队将上述数据和算法层面的所有刷新聚合在了一起，每一项手艺都带来了显着的性能提升，最终获得了 TimeLens 系列模子。

评测效果批注，TimeLens-8B 展现出了惊人的性能，不但大幅逾越了 Qwen3-VL 等开源模子成为新的开源 SOTA，更以 8B 的参数目，在多项焦点指标上周全击败了 GPT-5 和 Gemini-2.5-Flash 等前沿的闭源模子。

这一效果有力地证实晰：在 VTG 使命中，通过系统性地提升数据质量并接纳有用的算法设计，开源小尺寸模子完全具备挑战甚至逾越闭源大模子的能力。

总结

TimeLens 的孝顺不止于一个 SOTA 开源模子。团队在数据和算法双维度的系统性探索，为后续研究提供了极具参考价值的要领论与设计蓝图。

现在，TimeLens 的代码、模子、训练数据和评测基准都已开源，希望能为未来的视频时序定位研究提供一个更好的起点。