(5秒核心解读)妲己 爆乳 妲己自慰漫画鸿蒙版v33.3.95.37.4.65.46-2265安卓网

k1体育麻将胡了

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

Meta AI研究团队推出Saber:无需特殊训练数据的视频天生新突破

2026-01-07 17:03:08
泉源:

猫眼影戏

作者:

安迪-萨姆博格

手机审查

  猫眼影戏记者 扎克尔 报道Q8X2R7L1T4J5M9B6W3

这项由Meta AI研究团队与伦敦国王学院联合完成的研究于2024年12月揭晓 ,研究编号为arXiv:2512.06905v1。感兴趣的读者可以通过该编号在学术数据库中盘问完整论文。

研究团队面临的问题着实很容易明确。当你想要制作一段视频 ,好比让梵高泛起在咖啡馆里喝咖啡 ,或者让《戴珍珠耳环的少女》这幅名画中的女孩在窗前变换姿势 ,现有的手艺需要大宗特殊准备的训练质料。这些质料必需包括参考图像、对应视频和文字形貌三者的完善组合 ,就像需要同时拥有食谱、制作历程视频和制品照片才华学会做菜一样。

问题在于 ,制作这样的训练质料本钱极高 ,就像要为每道菜都准备完整的教学套餐一样难题。研究团队发明 ,现有要领需要构建包括参考图像-视频-文本三元组的专门数据集 ,这个历程涉及重大的数据网络、标注、聚类和筛选流程 ,不但腾贵并且难以大规模扩展。

Meta AI的研究团队提出了一个巧妙的解决计划 ,他们开发了名为Saber的框架。这个系统的焦点头脑是通过一种"遮罩训练战略"来模拟参考图像到视频的天生历程。就像学习绘画时 ,先生不需要专门准备每一种参考照片 ,而是随机遮挡一幅完整画作的某些部分 ,让学生凭证可见部分推测和重现整幅作品。

Saber在训练历程中会随机选择视频中的某些帧 ,然后用种种形状的遮罩部分笼罩这些帧 ,将被遮罩的区域作为"参考图像"。这种要领让模子学会了怎样从部分信息中提取身份特征和外观特征 ,然后将这些特征融入到天生的视频中。研究团队设计了多种遮罩形状 ,包括椭圆、傅里叶黑点、凸多边形和凹多边形等 ,确保训练的多样性。

为了阻止常见的"复制粘贴"问题 ,研究团队还引入了遮罩增强手艺。这就像在制作拼图时 ,不是简朴地把原片断直接放回原位 ,而是对片断举行旋转、缩放、翻转等变换后再安排。这样可以让天生的视频越发自然 ,阻止泛起生硬的拼接痕迹。

在模子设计方面 ,Saber接纳了一种巧妙的注重力机制。系统将参考图像和目的视频帧在特征空间中毗连 ,通过自注重力机制让视频部分和参考部分相互交互 ,同时通过交织注重力机制连系文本提醒的语义指导。这种设计确保了参考图像的身份信息能够准确转达到天生的视频中 ,同时坚持与文本形貌的一致性。

研究团队在OpenS2V-Eval基准测试上举行了周全评估。这个测试包括180个提醒 ,涵盖简单参考和多重参考等七个种别。效果显示 ,Saber在总体评分上抵达了57.91% ,凌驾了需要专门训练数据的要领。特殊是在NexusScore这个最能反应参考到视频性能的指标上 ,Saber取得了47.22%的效果 ,比其他要领横跨显著幅度。

值得注重的是 ,Saber展现出了优异的泛化能力。它不但能处置惩罚差别数目的参考图像 ,还能凭证遮罩比例的调解来顺应远景主体或配景场景的差别需求。当需要坚持远景角色时 ,系统使用较小的遮罩比例 ,而需要坚持配景情形时 ,则使用较大的遮罩比例。

研究团队还发明了Saber的一些有趣能力。好比 ,当提供统一个主体的多个视角作为参考时 ,系统能够准确识别这些图像形貌的是统一个工具 ,并将多视角的外观特征融合到一个连贯的视频主体中。别的 ,通过改变文本形貌中的主体信息 ,好比将"穿蓝色衬衫的男子"改为"穿玄色背心的男子" ,Saber能够准确地调解天生视频中对应主体的外观。

在现实应用中 ,Saber的推理历程相当直观。关于每个参考图像 ,系统首先使用预训练的物体支解器提取远景主体区域遮罩。若是用户希望参考图像提供配景场景而非远景主体 ,则跳过支解办法 ,使用完整的未遮罩图像。然后 ,系统将参考图像标准化并对被遮罩的配景区域填充零值 ,最后通过调解巨细和填充操作处置惩罚到目的视频尺寸。

研究团队举行了详细的消融研究来验证各个组件的主要性。他们发明 ,相比于在专门的参考到视频数据集上训练 ,遮罩训练战略能够提升1.67%的总体评分。简单类型遮罩的体现显着不如多种类型遮罩的组合 ,说明遮罩多样性关于泛化能力至关主要。牢靠远景面积比例会导致6.18%的性能下降 ,证实遮罩转变的主要性。

遮罩增强手艺的效果也很显着。在没有增强的情形下 ,模子会泛起严重的复制粘贴伪影 ,直接将参考内容原样安排到天生视频中。而应用了旋转、缩放、翻转和剪切等增强后 ,天生的视频显得越发自然和连贯。

注重力遮罩机制同样要害。若是移除注重力遮罩 ,模子在提取参考图像主体时会泛起显着的灰色伪影 ,无法准确疏散主体和配景。而使用注重力遮罩后 ,这些问题获得了有用解决 ,天生的视频质量显著提升。

与现有要领相比 ,Saber在多个场景中都展现出了优势。在简单人物参科场景中 ,竞争要领要么无法将参考主体嵌入天生视频 ,要么保存复制粘贴问题 ,而Saber能够天生一致且切合文本形貌的面部身份。在简单物体参科场景中 ,Saber准确捕获了物体的形状和外观特征。在多重参科场景中 ,Saber能够同时整合多个主体 ,而其他要领往往只能处置惩罚其中一个或泛起身份重复。

这项研究的意义在于为参考到视频天生开发了新的生长路径。通过消除对腾贵专门数据集的依赖 ,Saber使得这项手艺能够使用大规模的视频-文本数据举行训练 ,这为未来的规;さ于嘶。同时 ,Saber的零样本特征意味着它能够处置惩罚训练中未见过的主体种别 ,具有更强的适用性。

虽然 ,这项手艺也保存一定的局限性。当参考图像数目显著增添时 ,好比抵达12张 ,天生可能会泛起剖析征象 ,导致片断化的组合而缺乏连贯明确。别的 ,在重大提醒下的细腻运动控制和时间一致性仍然是挑战。

说究竟 ,Saber代表了视频天外行艺生长的一个主要里程碑。它证实晰通过巧妙的训练战略设计 ,可以在不增添数据网络本钱的情形下实现高质量的参考到视频天生。这种要领不但在手艺上具有立异性 ,在现实应用中也更具可行性 ,为个性化视频天生、定制化故事讲述和虚拟化身等应用场景提供了新的可能性。

Q&A

Q1:Saber是什么样的手艺?

A:Saber是Meta AI开发的一种新型视频天外行艺 ,它能够凭证参考图像和文字形貌天生坚持角色身份的视频。与古板要领差别 ,Saber不需要专门的训练数据集 ,而是通过"遮罩训练"战略来学习怎样从部分信息中提取特征并天生完整视频。

Q2:遮罩训练战略是怎样事情的?

A:遮罩训练就像让AI学习拼图游戏一样。系统随机选择视频中的某些帧 ,用种种形状的遮罩笼罩部分区域 ,然后学习怎样凭证可见部分推测和重现整个视频。这种要领让模子学会从参考图像中提取身份特征 ,并将这些特征自然地融入到新天生的视频中。

Q3:Saber相比其他视频天生要领有什么优势?

A:Saber最大的优势是不需要腾贵的专门训练数据 ,却能在测试中逾越那些需要专门数据的要领。它还能无邪处置惩罚差别数目的参考图像 ,支持多主体和多视角输入 ,并且能够凭证文字形貌准确调解天生内容 ,阻止了常见的复制粘贴问题。

??时势1:好爽⋯好紧⋯别夹魏婴

??01月07日,第二届“京津冀协同发展杯”公路自行车邀请赛河北大厂开赛,

  小不点仰面 ,眸子中射出两道惊人的光束 ,眼底化生出两个符文 ,迫人之际。

,丝袜美腿无码专区岛国4K。

??01月07日,上海科普大讲坛:讲述金丝猴社群的奥秘 呼吁保护生物多样性,

  一堆人苦涩 ,所有冷哼 ,不予回覆。

,麻酥酥西施黄瓜,www.oumeijingpin,忘川49秒生孩子原版视频在哪里看。

??时势2:能让人长记性的惩罚

??01月07日,昆明植物园冬日“枫景”醉游人,

  她通过情景再现、视频短片、网络清静演示等形式 ,将国家清静教育融入课堂 ,教育指导全省青少年学生掌握国家清静知识 ,增强国家清静意识 ,提升维护国家清静的能力。当天 ,全省153万名大专院校学生通过长江云、荆楚网、斗鱼寓目了电视课堂网络直播。14日下昼3时 ,湖北卫视频道、湖北电视教育频道将再次播出 ,供全省552万名中小学生收听收看。

,综合激情小说,色爱爱激情视频,十级黄片色哟哟。

??01月07日,7项电动工程机械国家标准在江苏徐州发布,  凭证美国CNBC网站梳理的数据 ,通用汽车及其合资公司在华市场份额从2015年的15%左右降至去年的8.6% ,中国市场盈利占通用汽车所有盈利的比例也有所下降。2022年 ,斯特兰蒂斯集整体现只在中国地区保存其旗下Jeep品牌的入口营业。,淫bbwxxxxhd黑料,97视频在线观看托儿所,大雷擦狙狙官方网站。

??时势3:激情小說圖區

??01月07日,携程副总裁王韦:旅游已成生活必需品 旅游业展现强大韧性,

  “那主药……”小不点睁大眼睛 ,他听出了柳树的意思。

,男的坤坤插入女生的坤坤里,国产真实破苞在线无码师生,digao5.con。

??01月07日,外交部发言人就台湾选举答记者问,

  “那是什么呀?”小不点好奇的问道。

,在线播放黄色无码免费,人妻猎人韩漫未删减版,国产精品视频第一区二区。

??时势4:超碰在线个人

??01月07日,传承创新数字赋能 浙江着力推动历史经典产业焕新,

  质量就是学校的生命 ,我们必需义正辞严的抓好教育质量 ,因此 ,一直以来 ,学校对结业班先生的安排可谓煞操心机 ,在座的列位结业班先生都是学校的主干西席 ,是学校的中流砥柱。初三结业班是初中阶段的要害时刻 ,其教学质量在初中阶段中占有特殊的职位 ,结业班事情是学校整体教学水平的集中体现 ,是我们学校对外的窗口 ,对内的模范。中考效果更是直接关系到学校的名声、职位和生长 ,抓好初三教学治理与结业班的事情很是主要 ,学校很是重视初三结业班的事情 ,今天召开结业班西席发动会 ,就是凭证期初学校事情安排而召开的 ,旨在统一 ,统一程序 ,明确目的 ,确定步伐 ,增添信心 ,为20xx年我校再次取得中考的胜利吹响进攻的军号。 下面我从三个方面向列位汇报一下九年级的情形。

,天堂va欧美ⅴa亚洲va一国产,武汉萝莉被学生会长群交,免费玖玖偷情视频在线观看。

??01月07日,胡塞武装发射导弹击中一艘美国船只 美军已确认,

  7.遇到火灾 ,不要盲目跳楼 ,可使用阳台、落水管等逃生自救。也可以用绳子或把床单撕成条状连成绳索 ,顺绳滑下。

,国产日屄:视频在线观看,3344在线看片无码,一级A一级a爱片免费免免。

责编:马蒂亚斯·穆勒

审核:姜峰周

责编:赵俊荣

相关推荐 换一换

Copyright (C) 2001-   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001- Dzwww   鲁ICP备09023866号-1

网站地图