亚洲第一页第二页,探索无限精彩,畅享不一样的世界,让生活更有趣

k1体育麻将胡了

亚洲第一页第二页 最近更新|更新列表|字母检索|下载排行|苹果专区|分类导航
草莓香蕉榴莲秋葵绿巨人2023 欧洲综合日韩Av无码毛片 一级毛片不卡免费视频 国产精品拍拍拍拍2020 亚洲黄色板块

目今位置:首页电脑软件天津街头两名交警互殴 → 亚洲第一页第二页 v8.822 安卓最新版

亚洲第一页第二页

亚洲第一页第二页

  • 电脑版下载
猜你喜欢
标签: 亚洲第一页第二页 日本舌头添泬视频
详情
先容
猜你喜欢
相关版本

亚洲第一页第二页截图Q8X2R7L1T4J5M9B6W3

  • 亚洲第一页第二页 v139.0.7258.143 绿色版 0
  • 亚洲第一页第二页 v139.0.7258.143 绿色版 1
  • 亚洲第一页第二页 v139.0.7258.143 绿色版 2
  • 亚洲第一页第二页 v139.0.7258.143 绿色版 3

内容详情

亚洲第一页第二页

新智元报道

编辑:倾倾

【新智元导读】学霸的假话被揭穿!一篇来自Adobe Research的论文发明,高语义明确并不会提升天生质量,反而可能破损空间结构 。用iREPA简朴修改,削弱全局滋扰,天生质量连忙飙升 。

我们经;嵋苫螅何裁词泳跄W釉礁呒,天生效果反而越差 ?

最近,Adobe Research发了一篇论文,专门诠释了这个看起来有点变态、但重复泛起的征象 。

论文地点:https://arxiv.org/pdf/2512.10794

按直觉,模子要先知道「这是什么」,才华把它画出来 。

ImageNet上的分类准确率越高,说明模子的语义明确越强,天生的内容越稳固、越靠谱 。

但这篇论文给出的效果,完全相反:

一些在识别使命中体现平平、甚至看起来「很不智慧」的视觉编码器,反而能天生出结构更清晰、质量更高的图像 。

全局语义能力越强,天生反而越容易出问题 。

很可能我们从一最先,就误会了天生模子真正善于的是什么 。

为什么视觉模子越「智慧」,天生的反而越差 ?

先看一个已经被重复验证的事实:一个模子在ImageNet上的线性探测准确率越高,并不料味着它更适适用来做天生 。

最直观的例子是SAM2 。这是一个在识别使命里不出彩的模子,验证准确率只有24.1%,远低于主流视觉大模子 。

但当这些编码器被用于REPA时,SAM2的天生质量反而优于一批准确率横跨约60%的模子 。

SAM2的ImageNet验证准确率仅为24.1%,但在REPA框架下的天生gFID显着优于多种准确率凌驾70%的视觉编码器 。

这还不是某一个模子的无意体现 。

论文进一步较量了统一编码器家族中差别规模的模子,效果发明:模子越大、分类准确率越高,天生质量反而可能相似或更差 。

随着模子规模和分类准确率提升,天生gFID反而整体变差,批注这一征象并非由个体模子导致 。

显然,「高语义能力=好天生」这条默认路径,在大宗实验中并不建设 。

更要害的是,这种征象并不是噪声 。

在跨模子、跨设置的系统性剖析中,全局语义指标与天生质量之间的相关性始终很是弱 。

分类能力与天生质量险些无关,空间结构却高度相关 。左:线性探测准确率与天生 gFID 的相关性极弱(Pearson r=-0.26) 。中:空间结构指标(LDS)与天生质量泛起出显著强相关(Pearson r=-0.85) 。右:基于空间结构刷新的iREPA,在多种编码器上稳固优于REPA 。

论文进一步对多种视觉编码器做了相关性剖析,效果很是明确:

线性探测准确率与天生质量之间险些不保存相关性 。

相比之下,反应patch空间结构的指标,与天生质量泛起出极强的正相关关系 。

若是不是「明确多」,那天生模子究竟依赖的是什么 ?

重复确认会压扁空间结构

在明确了「高语义≠好天生」之后,真正的问题酿成了:

为什么模子越是重复确认,天生反而越容易出问题 ?

要害就是,全局语义会在天生历程中压扁空间结构 。

在天生使命中,模子并不是一次性输出图像,而是在训练和采样历程中,一直对局部patch之间的关系做判断 。

论文将这种能力归纳综合为「空间结构」:即相邻patch之间应坚持更高相似性,而远处patch不应被全局语义过早拉近 。

但当模子太过追谴责局语义一致性,好比通过CLS token ,或对所有patch做全局平均来强化「这是什么」,这些局部差别就会被系统性地削弱 。

这种做法会导致一个直接效果:远景物体的patch,与本应无关的配景patch之间,泛起异常高的相似性 。

空间比照度下降,界线变得模糊,天生效果因此糊成一片 。

PE-G和WebSSL-1B在ImageNet上具有更高的分类准确率,但它们的空间自相似性显示,远景与配景被太过拉近,界线模糊 。相比之下,空间结构更清晰的SpatialPE-B,天生质量显著更好 。

研究员向模子中逐步加入全局语义信息,视察分类能力和天生质量的转变 。

效果如下图所示:

增强全局语义信息会损害天生质量

随着全局信息权重α从0增添到0.5,模子的线性探测准确率一连上升 。

但天生质量却显著下降,FID显着恶化 。

也就是说,「更懂这是什么」确着实爆发;但与此同时,模子也失去天生所依赖的空间结构 。

这并不是优化不充分的副作用,而是由于全局语义在天生阶段饰演了一个「过强约束」的角色 。

它让模子更快告竣结论,却也更早放弃了对局部结构的细腻描绘 。

既然语义会滋扰天生,iREPA选择退后一步

若是说前面的实验回覆了「问题出在哪」,那 iREPA 回覆的就是另一个问题:

既然全局语义会滋扰天生,那该怎么对齐体现,才不会把结构压扁 ?

iREPA给出了谜底 。它对原本的REPA训练流程做了两处很是简朴的修改,总共不到四行代码 。

第一处,是投影方法的改变 。

在标准REPA中,patch表征通;峋蒑LP投影层举行对齐 。

但论文指出,MLP在这一历程中容易混淆差别位置的信息,无意中削弱了空间比照度 。

因此,iREPA用一个3×3的卷积层(padding=1)替换了MLP投影 。

卷积的归纳偏置能保存局部邻域关系:相邻patch的相互影响被保存,远处区域则不会被过早混在一起 。

第二处修改,直接针对全局语义 。

iREPA在对齐历程中引入了一个空间归一化层,移除了patch特征中的全局均值分量 ,让模子专注于局部之间的差别与界线 。

iREPA怎样通过两处修改,恢复天生所需的空间结构 。 (a) 使用卷积投影替换MLP,可更好地保存局部空间关系 。 (b) 空间归一化层通过移除全局分量,提高patch之间的空间比照度 。 (c) 经由这两步修改后,iREPA天生的diffusion特征泛起出更清晰的空间结构 。

正是这两点改动,让iREPA在机制上与前一节的问题形成了严酷对应:

全局语义太强会抹平结构,那就在对齐阶段削弱全局分量、强化空间关系 。

效果也在意料之中 。

无论是在ImageNet规模的天生使命,照旧更高区分率的设置,亦或是文本到图像的多模态天生使命中,iREPA都体现出更快的收敛速率和更好的最终天生质量 。

更主要的是,这种提升并不依赖于某一个特定编码器 。

在差别模子规模、差别视觉主干网络、差别训练设置下,iREPA都能稳固刷新 。

这不但是一个技巧,而是顺着天生使命自己对结构的需求,把体现对齐这件事做得更榨取、更细腻 。

许多时间,我们讨论天生模子时,会下意识沿用一个标准 。

但这篇论文提醒了我们,天生并不是明确的自然下游 。

对天生来说,最主要的并不是「这是什么」,而是「哪些地方该靠近,哪些地方该脱离」 。

当我们一味强化全局语义,重复鞭策模子给出谜底,着实是在替它提前下结论 。

iREPA并没有试图让模子变得更智慧 。它做的更像是退后一步,把空间还给空间,把结构还给结构 。

效果不是明确能力的奔腾,而是天生质量的回归 。

参考资料:

https://x.com/1jaskiratsingh/status/2000701128431034736?s=20

https://end2end-diffusion.github.io/irepa/

秒追ASI

?点赞、转发、在看一键三连?

点亮星标,锁定新智元极速推送!

相关版本

    多平台下载

    • PC版

      亚洲第一页第二页 v1.334.9667.205411 安卓免費版

    • Android版

      亚洲第一页第二页 v3.134.7444.875149 安卓版

    审查所有0条谈论>网友谈论

    揭晓谈论

    (您的谈论需要经由审核才华显示) 网友粉丝QQ群号:766969941

    审查所有0条谈论>>

    相关软件
    91在线免费a 好爽又高潮了毛片A片 免费在线黄色网站在线观看 福利性爱视频 色综合天天综合高清天天摸天天爽 21p亚洲 八点电影网 理论片 在线看片免费人成视久网不卡 在线免费看毛片网站 www.17cn.cn网站免费进入 哥搞妹 91毛片在线看 A片在线视频永久免费观看 www.mgb888.com 亚洲无码免费观看视频 成免费毛片人电影 精品主播国产9 黄片Aⅴ 八重神子和雷电将军高潮迭起 色五月乱综合 色 操 在线 芭乐视频app 91在线视频网站观看 夜间福利在线观看 不知火舞成人3D动漫 羞羞 成 人 黄 色 视 频网址大全 欧美视频 亚洲图片 人人爱人人爱人人操 玖玖在线视频视频 在线欧美极品A∨ 美女露出 让男生揉动亲吻动漫 看久久久久久一级AA毛片 夜色55夜色66亚洲精品站 三级中文字幕一区 综合激情二区 婷婷有精品视频综合在线 干欧美美女黄片 黄色无码大片免费链接 毛片免费网站电影 国产一区二区三区夜色 国产在线进入精品观看 亚州男人天堂 不卡黄色视频在线观看 雏田 爆 游戏 国产情交高清免费视频 成人性爱外国网站 99re热自拍偷拍 美女瑟瑟 大量欧美黄a视频 欧美大胆一级视频 A片永久黄色视频 免费看 AAAAA又粗又硬又黄免看 热99re久久国免费超精品首页 奥葡京视频 av美国视频在线观看 78免费无码视频在线播放 78摸免费人成视频在线观看免费看 国产做a爱高清视频 影音先锋在线看 精品性爱视频 日韩爱性视频 裸体裸乳被扒蜜桃 小说 国产在线操人 免费无码日韩毛片一区二区 日韩在线观看www www.性交AV.com 18禁app下载 叶舒华被 c 黄扒衣服91 saber本子性辱之夜全彩 高清无码网 毛片在线免费观看视频 999国内精品视频 看免费5XXAAA毛片30厘米 美女黄片在线 欧美黄色A精品 日高清在线亚洲专区黄片 欧美 性爱 在线 国内精品99久免费视频 两男一女两根茎同时进去爽不 美女被操出白浆 人人操很很操日日射 人妻无码一区二区视频 黄台网站大全100 最新台湾黄色小视频网站 厨房脱岳裙子在后面挺进动漫 男生把 放进 里爽 www.动漫美女被套 日韩美女淫乱网 欧美一级免费高清视频 韩国三级HD中文字幕床震 2021天天做夜夜爽网站 真人做受免费视频一级毛片 国产精品野外A∨久久久 小黄片久久不 逼逼毛片黄色片 aⅴ免费最新地址 思思热在线 国产spA盗摄视频 三级日本亚洲色图自拍偷拍一区二区 人妻按摩高潮 A片黄色视频 日韩一级二级三级黄片av 在线观看WWW你懂的超爽视频 国产日韩一区 汉服美女被 羞羞网站 黄色A级 爱五月婷婷 日本性感少妇毛片播放视频 黄片二级视频 AAAAA性乄乄 乄乄 动漫丝袜脚交 视频 国内机关自拍视频在线观看 国产最新在线视频 人人操人人看人人拍 午夜男人一级毛片免费 欧美在线A片免费看 无遮挡▓男同网站 美女无遮挡永久免费观看网站 国模私拍AV在线播放
    热门网络工具
    网站地图