(6分钟深度揭秘)www精品.国产苹果版v00.39.17.13.240.41.54.91-2265安卓网

k1体育麻将胡了

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

Meta AI研究团队推出Saber:无需特殊训练数据的视频天生新突破

2026-01-12 07:38:59
泉源:

猫眼影戏

作者:

张腾

手机审查

  猫眼影戏记者 金顺 报道Q8X2R7L1T4J5M9B6W3

这项由Meta AI研究团队与伦敦国王学院联合完成的研究于2024年12月揭晓 ,研究编号为arXiv:2512.06905v1 。感兴趣的读者可以通过该编号在学术数据库中盘问完整论文 。

研究团队面临的问题着实很容易明确 。当你想要制作一段视频 ,好比让梵高泛起在咖啡馆里喝咖啡 ,或者让《戴珍珠耳环的少女》这幅名画中的女孩在窗前变换姿势 ,现有的手艺需要大宗特殊准备的训练质料 。这些质料必需包括参考图像、对应视频和文字形貌三者的完善组合 ,就像需要同时拥有食谱、制作历程视频和制品照片才华学会做菜一样 。

问题在于 ,制作这样的训练质料本钱极高 ,就像要为每道菜都准备完整的教学套餐一样难题 。研究团队发明 ,现有要领需要构建包括参考图像-视频-文本三元组的专门数据集 ,这个历程涉及重大的数据网络、标注、聚类和筛选流程 ,不但腾贵并且难以大规模扩展 。

Meta AI的研究团队提出了一个巧妙的解决计划 ,他们开发了名为Saber的框架 。这个系统的焦点头脑是通过一种"遮罩训练战略"来模拟参考图像到视频的天生历程 。就像学习绘画时 ,先生不需要专门准备每一种参考照片 ,而是随机遮挡一幅完整画作的某些部分 ,让学生凭证可见部分推测和重现整幅作品 。

Saber在训练历程中会随机选择视频中的某些帧 ,然后用种种形状的遮罩部分笼罩这些帧 ,将被遮罩的区域作为"参考图像" 。这种要领让模子学会了怎样从部分信息中提取身份特征和外观特征 ,然后将这些特征融入到天生的视频中 。研究团队设计了多种遮罩形状 ,包括椭圆、傅里叶黑点、凸多边形和凹多边形等 ,确保训练的多样性 。

为了阻止常见的"复制粘贴"问题 ,研究团队还引入了遮罩增强手艺 。这就像在制作拼图时 ,不是简朴地把原片断直接放回原位 ,而是对片断举行旋转、缩放、翻转等变换后再安排 。这样可以让天生的视频越发自然 ,阻止泛起生硬的拼接痕迹 。

在模子设计方面 ,Saber接纳了一种巧妙的注重力机制 。系统将参考图像和目的视频帧在特征空间中毗连 ,通过自注重力机制让视频部分和参考部分相互交互 ,同时通过交织注重力机制连系文本提醒的语义指导 。这种设计确保了参考图像的身份信息能够准确转达到天生的视频中 ,同时坚持与文本形貌的一致性 。

研究团队在OpenS2V-Eval基准测试上举行了周全评估 。这个测试包括180个提醒 ,涵盖简单参考和多重参考等七个种别 。效果显示 ,Saber在总体评分上抵达了57.91% ,凌驾了需要专门训练数据的要领 。特殊是在NexusScore这个最能反应参考到视频性能的指标上 ,Saber取得了47.22%的效果 ,比其他要领横跨显著幅度 。

值得注重的是 ,Saber展现出了优异的泛化能力 。它不但能处置惩罚差别数目的参考图像 ,还能凭证遮罩比例的调解来顺应远景主体或配景场景的差别需求 。当需要坚持远景角色时 ,系统使用较小的遮罩比例 ,而需要坚持配景情形时 ,则使用较大的遮罩比例 。

研究团队还发明了Saber的一些有趣能力 。好比 ,当提供统一个主体的多个视角作为参考时 ,系统能够准确识别这些图像形貌的是统一个工具 ,并将多视角的外观特征融合到一个连贯的视频主体中 。别的 ,通过改变文本形貌中的主体信息 ,好比将"穿蓝色衬衫的男子"改为"穿玄色背心的男子" ,Saber能够准确地调解天生视频中对应主体的外观 。

在现实应用中 ,Saber的推理历程相当直观 。关于每个参考图像 ,系统首先使用预训练的物体支解器提取远景主体区域遮罩 。若是用户希望参考图像提供配景场景而非远景主体 ,则跳过支解办法 ,使用完整的未遮罩图像 。然后 ,系统将参考图像标准化并对被遮罩的配景区域填充零值 ,最后通过调解巨细和填充操作处置惩罚到目的视频尺寸 。

研究团队举行了详细的消融研究来验证各个组件的主要性 。他们发明 ,相比于在专门的参考到视频数据集上训练 ,遮罩训练战略能够提升1.67%的总体评分 。简单类型遮罩的体现显着不如多种类型遮罩的组合 ,说明遮罩多样性关于泛化能力至关主要 。牢靠远景面积比例会导致6.18%的性能下降 ,证实遮罩转变的主要性 。

遮罩增强手艺的效果也很显着 。在没有增强的情形下 ,模子会泛起严重的复制粘贴伪影 ,直接将参考内容原样安排到天生视频中 。而应用了旋转、缩放、翻转和剪切等增强后 ,天生的视频显得越发自然和连贯 。

注重力遮罩机制同样要害 。若是移除注重力遮罩 ,模子在提取参考图像主体时会泛起显着的灰色伪影 ,无法准确疏散主体和配景 。而使用注重力遮罩后 ,这些问题获得了有用解决 ,天生的视频质量显著提升 。

与现有要领相比 ,Saber在多个场景中都展现出了优势 。在简单人物参科场景中 ,竞争要领要么无法将参考主体嵌入天生视频 ,要么保存复制粘贴问题 ,而Saber能够天生一致且切合文本形貌的面部身份 。在简单物体参科场景中 ,Saber准确捕获了物体的形状和外观特征 。在多重参科场景中 ,Saber能够同时整合多个主体 ,而其他要领往往只能处置惩罚其中一个或泛起身份重复 。

这项研究的意义在于为参考到视频天生开发了新的生长路径 。通过消除对腾贵专门数据集的依赖 ,Saber使得这项手艺能够使用大规模的视频-文本数据举行训练 ,这为未来的规;さ于嘶 。同时 ,Saber的零样本特征意味着它能够处置惩罚训练中未见过的主体种别 ,具有更强的适用性 。

虽然 ,这项手艺也保存一定的局限性 。当参考图像数目显著增添时 ,好比抵达12张 ,天生可能会泛起剖析征象 ,导致片断化的组合而缺乏连贯明确 。别的 ,在重大提醒下的细腻运动控制和时间一致性仍然是挑战 。

说究竟 ,Saber代表了视频天外行艺生长的一个主要里程碑 。它证实晰通过巧妙的训练战略设计 ,可以在不增添数据网络本钱的情形下实现高质量的参考到视频天生 。这种要领不但在手艺上具有立异性 ,在现实应用中也更具可行性 ,为个性化视频天生、定制化故事讲述和虚拟化身等应用场景提供了新的可能性 。

Q&A

Q1:Saber是什么样的手艺?

A:Saber是Meta AI开发的一种新型视频天外行艺 ,它能够凭证参考图像和文字形貌天生坚持角色身份的视频 。与古板要领差别 ,Saber不需要专门的训练数据集 ,而是通过"遮罩训练"战略来学习怎样从部分信息中提取特征并天生完整视频 。

Q2:遮罩训练战略是怎样事情的?

A:遮罩训练就像让AI学习拼图游戏一样 。系统随机选择视频中的某些帧 ,用种种形状的遮罩笼罩部分区域 ,然后学习怎样凭证可见部分推测和重现整个视频 。这种要领让模子学会从参考图像中提取身份特征 ,并将这些特征自然地融入到新天生的视频中 。

Q3:Saber相比其他视频天生要领有什么优势?

A:Saber最大的优势是不需要腾贵的专门训练数据 ,却能在测试中逾越那些需要专门数据的要领 。它还能无邪处置惩罚差别数目的参考图像 ,支持多主体和多视角输入 ,并且能够凭证文字形貌准确调解天生内容 ,阻止了常见的复制粘贴问题 。

??时势1:三角裤阴部鼓起图片大全

??01月12日,国家射箭队在广西开展巴黎奥运会选拔赛,

  二、围绕阵势 ,突出重点 ,在效劳跨越式生长中施展作用、有为立位

,欧美老熟妇又粗又大 。

??01月12日,巴基斯坦媒体人走进新疆伊犁,

开学学校向导讲话 篇16

,鸡鸡插屁屁的软件,黄色怕怕视频片,点点游妲己的胸 。

??时势2:美女视频一区二区三区

??01月12日,内蒙古阿拉善:骆驼文化那达慕点燃驼文化激情,

  篝火跳动 ,噼啪作响 ,这里很是的热闹 ,族人恣意的庆祝着 。

,黄色视频在线免费观看夜,成人快手秘 免费破解版,免费Aⅴ无遮拦日本在线观看 。

??01月12日,第十五届中国航展 中国空军多款机型空中翱翔,

  二猛的父亲翻白眼 ,道:“这些猎物原来就是我们的 ,伤了我们这么多人 ,光陪个礼就算完了?”

,a级免费观看,偷拍老头老太太性爱,偷拍网站精品视频 。

??时势3:亚洲国产精品第一区二区

??01月12日,国家邮政局:春运前期年货寄递需求增长,业务量会出现一波小高峰,

  第三阶段:综合训练(第二轮温习).时间:4月中旬——5月中旬

,十大看黄软件,操操操人人干,露双乳无套免费入口 。

??01月12日,法国:一艘非法移民船倾覆 5人死亡,

  青鳞鹰眸光酷寒 ,只要不进山脉深处 ,它很少受伤 ,今日居然吃了这样一个大亏 ,自然不依不饶的追击 。

,插插插插插插人人人人人人,董卿生直器A片,欧美女人aa看片 。

??时势4:贱狗vk

??01月12日,一天拦下40万笔!频繁“仅退款”,会“触法”吗?,

  李前进和班里浓重的学习情形、和班主任赵先生很是严酷的教育方法都是分不开的 ,先生对孩子倾注的爱心和心血 ,让我做家长的很是感动 。以是 ,作为家长 ,我会起劲配合先生来配合教育孩子 。很忸怩的是 ,在孩子的教育方法上保存许多的缺乏 ,事实初三了 ,孩子也不再是月朔初二那时间 ,纯粹贪玩、不学习 ,现在的孩子正处在一个青春期 ,也就我们说的逆反期 ,有了自己的头脑和主见 ,自己也有了中考的压力 ,家长简朴的严肃和过高的要求只能加大孩子对学习的反感 ,相反 ,我们做家长的 ,要多明确孩子 ,少用下令的口吻 ,多用探讨的口吻 ,给孩子些自己治理自己的空间 ,给孩子创立一个优异的自信的学习情形 ,这样才华让孩子轻装上阵 ,起到事半功倍的效果 。这半个学期为了作育李各科目学习兴趣 ,让他能自觉学、自动学、高效率的学 ,我在家主要认真孩子们的生涯和心理视察 ,实时指导、勉励孩子 ,常言说得好“不可才先成人” ,现阶段孩子的学习虽然主要 ,可是教育孩子怎样做人也是我们家长不可忽视的 。作为家长 ,面临中考 ,我们做家长的 ,该做些什么呢?

,久久国产精品综合影院免费播放,学生小12清纯裸体自慰,日本A网站入口 。

??01月12日,民建会员任瑞羾: “业余词人”谱写“多彩贵州”,

  显然 ,这种挣扎是徒劳的 ,恶魔猿几个闪灭 ,留下一片残影 ,头盖骨一直飞起 ,它恣意享用鲜味 。

,红桃ht429.vip,搞机time恶心软件直接打开无风险,国产精品美女视频线专区 。

责编:毛丹青

审核:柳玉鹏

责编:王长敏

相关推荐 换一换

Copyright (C) 2001-   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001- Dzwww   鲁ICP备09023866号-1

网站地图