麻豆A片在线高清免费观看,无论你在哪,都能随时体验高速与便捷的服务

k1体育麻将胡了

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

ImageNet分数越高,天生反而越糊?iREPA给出诠释

2025-12-27 02:59:07
泉源:

猫眼影戏

作者:

圣克鲁斯

手机审查

  猫眼影戏记者 李春莲 报道Q8X2R7L1T4J5M9B6W3

新智元报道

编辑:倾倾

【新智元导读】学霸的假话被揭穿!一篇来自Adobe Research的论文发明,高语义明确并不会提升天生质量,反而可能破损空间结构。用iREPA简朴修改,削弱全局滋扰,天生质量连忙飙升 。

我们经;嵋苫螅何裁词泳跄W釉礁呒,天生效果反而越差?

最近,Adobe Research发了一篇论文,专门诠释了这个看起来有点变态、但重复泛起的征象。

论文地点:https://arxiv.org/pdf/2512.10794

按直觉,模子要先知道「这是什么」,才华把它画出来。

ImageNet上的分类准确率越高,说明模子的语义明确越强,天生的内容越稳固、越靠谱。

但这篇论文给出的效果,完全相反:

一些在识别使命中体现平平、甚至看起来「很不智慧」的视觉编码器,反而能天生出结构更清晰、质量更高的图像。

全局语义能力越强,天生反而越容易出问题。

很可能我们从一最先,就误会了天生模子真正善于的是什么。

为什么视觉模子越「智慧」,天生的反而越差?

先看一个已经被重复验证的事实:一个模子在ImageNet上的线性探测准确率越高,并不料味着它更适适用来做天生。

最直观的例子是SAM2。这是一个在识别使命里不出彩的模子,验证准确率只有24.1%,远低于主流视觉大模子。

但当这些编码器被用于REPA时,SAM2的天生质量反而优于一批准确率横跨约60%的模子。

SAM2的ImageNet验证准确率仅为24.1%,但在REPA框架下的天生gFID显着优于多种准确率凌驾70%的视觉编码器。

这还不是某一个模子的无意体现。

论文进一步较量了统一编码器家族中差别规模的模子,效果发明:模子越大、分类准确率越高,天生质量反而可能相似或更差。

随着模子规模和分类准确率提升,天生gFID反而整体变差,批注这一征象并非由个体模子导致。

显然,「高语义能力=好天生」这条默认路径,在大宗实验中并不建设 。

更要害的是,这种征象并不是噪声。

在跨模子、跨设置的系统性剖析中,全局语义指标与天生质量之间的相关性始终很是弱。

分类能力与天生质量险些无关,空间结构却高度相关。左:线性探测准确率与天生 gFID 的相关性极弱(Pearson r=-0.26)。中:空间结构指标(LDS)与天生质量泛起出显著强相关(Pearson r=-0.85)。右:基于空间结构刷新的iREPA,在多种编码器上稳固优于REPA。

论文进一步对多种视觉编码器做了相关性剖析,效果很是明确:

线性探测准确率与天生质量之间险些不保存相关性。

相比之下,反应patch空间结构的指标,与天生质量泛起出极强的正相关关系。

若是不是「明确多」,那天生模子究竟依赖的是什么?

重复确认会压扁空间结构

在明确了「高语义≠好天生」之后,真正的问题酿成了:

为什么模子越是重复确认,天生反而越容易出问题?

要害就是,全局语义会在天生历程中压扁空间结构。

在天生使命中,模子并不是一次性输出图像,而是在训练和采样历程中,一直对局部patch之间的关系做判断。

论文将这种能力归纳综合为「空间结构」:即相邻patch之间应坚持更高相似性,而远处patch不应被全局语义过早拉近。

但当模子太过追谴责局语义一致性,好比通过CLS token ,或对所有patch做全局平均来强化「这是什么」,这些局部差别就会被系统性地削弱。

这种做法会导致一个直接效果:远景物体的patch,与本应无关的配景patch之间,泛起异常高的相似性。

空间比照度下降,界线变得模糊,天生效果因此糊成一片。

PE-G和WebSSL-1B在ImageNet上具有更高的分类准确率,但它们的空间自相似性显示,远景与配景被太过拉近,界线模糊。相比之下,空间结构更清晰的SpatialPE-B,天生质量显著更好。

研究员向模子中逐步加入全局语义信息,视察分类能力和天生质量的转变。

效果如下图所示:

增强全局语义信息会损害天生质量

随着全局信息权重α从0增添到0.5,模子的线性探测准确率一连上升。

但天生质量却显著下降,FID显着恶化。

也就是说,「更懂这是什么」确着实爆发;但与此同时,模子也失去天生所依赖的空间结构。

这并不是优化不充分的副作用,而是由于全局语义在天生阶段饰演了一个「过强约束」的角色。

它让模子更快告竣结论,却也更早放弃了对局部结构的细腻描绘。

既然语义会滋扰天生,iREPA选择退后一步

若是说前面的实验回覆了「问题出在哪」,那 iREPA 回覆的就是另一个问题:

既然全局语义会滋扰天生,那该怎么对齐体现,才不会把结构压扁?

iREPA给出了谜底。它对原本的REPA训练流程做了两处很是简朴的修改,总共不到四行代码 。

第一处,是投影方法的改变。

在标准REPA中,patch表征通;峋蒑LP投影层举行对齐。

但论文指出,MLP在这一历程中容易混淆差别位置的信息,无意中削弱了空间比照度 。

因此,iREPA用一个3×3的卷积层(padding=1)替换了MLP投影。

卷积的归纳偏置能保存局部邻域关系:相邻patch的相互影响被保存,远处区域则不会被过早混在一起 。

第二处修改,直接针对全局语义。

iREPA在对齐历程中引入了一个空间归一化层,移除了patch特征中的全局均值分量 ,让模子专注于局部之间的差别与界线。

iREPA怎样通过两处修改,恢复天生所需的空间结构。 (a) 使用卷积投影替换MLP,可更好地保存局部空间关系。 (b) 空间归一化层通过移除全局分量,提高patch之间的空间比照度。 (c) 经由这两步修改后,iREPA天生的diffusion特征泛起出更清晰的空间结构。

正是这两点改动,让iREPA在机制上与前一节的问题形成了严酷对应:

全局语义太强会抹平结构,那就在对齐阶段削弱全局分量、强化空间关系 。

效果也在意料之中。

无论是在ImageNet规模的天生使命,照旧更高区分率的设置,亦或是文本到图像的多模态天生使命中,iREPA都体现出更快的收敛速率和更好的最终天生质量。

更主要的是,这种提升并不依赖于某一个特定编码器。

在差别模子规模、差别视觉主干网络、差别训练设置下,iREPA都能稳固刷新。

这不但是一个技巧,而是顺着天生使命自己对结构的需求,把体现对齐这件事做得更榨取、更细腻。

许多时间,我们讨论天生模子时,会下意识沿用一个标准。

但这篇论文提醒了我们,天生并不是明确的自然下游。

对天生来说,最主要的并不是「这是什么」,而是「哪些地方该靠近,哪些地方该脱离」。

当我们一味强化全局语义,重复鞭策模子给出谜底,着实是在替它提前下结论。

iREPA并没有试图让模子变得更智慧。它做的更像是退后一步,把空间还给空间,把结构还给结构。

效果不是明确能力的奔腾,而是天生质量的回归。

参考资料:

https://x.com/1jaskiratsingh/status/2000701128431034736?s=20

https://end2end-diffusion.github.io/irepa/

秒追ASI

?点赞、转发、在看一键三连?

点亮星标,锁定新智元极速推送!

??时势1:十八岁禁黄

??12月27日,华北黄淮等地将有强降雨 江淮及以南大部地区高温持续,

  “吱吱……”突然,拳头大的金色毛球尖叫了起来,全身毛发倒竖,双眼瞪到最大,急躁担心。

?第六十二章 小不点,影音色香蕉资源。

??12月27日,莫斯科证券交易所:停止使用美元和欧元交易,

  石村众人或张开巨弓,或手持阔剑,或轮动狼牙大棒,如猛兽出闸般,带起一股狂风向前冲去,激的乱叶翱翔。

,非洲女人ZOZ0性伦交,无遮挡有色又黄又爽的小视频,小蓝gary网站网页版。

??时势2:国产小伙嫖妓在线播放

??12月27日,内蒙古成立设施农业绿色发展技术研究院,

  积厚一纪而一朝勃发。今天,我们满怀喜悦心情盛大举行修建装饰公司的开张仪式!首先,请允许我代表全体员工向出席和加入今天开张庆典的列位向导、列位来宾体现热烈的接待,向支持公司筹建、体贴公司生长的有关单位和社会各界朋侪体现衷心的谢谢!(此处掌声)

,一级黄色性爱视频欧美一区,色哟哟 国产精品观看,粗大黑硬长爽猛欧美视频欧美性感后入。

??12月27日,杭州:西湖孤山梅花初绽引游人,

  一是要认清形势,起劲增添本领,尽快进入事情角色。干步队伍效劳科学生长的能力,很洪流平上决议我市经济社会生长的效果。从我市面临的形势使命来看,最大的阵势就是生长。现在全省经济社会生长泛起“速率较快、效益较好、位次前移、后劲增强、民生改善” 的优异态势,我市情形也一样。在省委、省政府体贴支持下,各方面大生长,取得了优异效果。我们要苏醒地看到,新形势、新使命对我市向导干部向导科学生长能力提出了新的要求。与先进蓬勃地区、相邻省会都会相比,我市州里向导班子和向导干部还保存差别。我们必需要一直审阅自身的事情本事和素质,用立异的精神来完善自己、用勤劳的学习来提高自己、用更高的标准来要求自己。面临新形势、新使命,我们各人要有一个苏醒的熟悉和掌握,要驻足自身现实,起劲提升自身素质和能力,尽快进入事情角色,推行事情职责。要围绕科学生长,重点提升自身效劳经济、效劳民生、效劳立异、效劳协调的本事,起劲提高自身现实事情能力、增添本领。

,精品妇女一区二区三区,十八以下静止观看的网站,敖闰JM码。

??时势3:日韩H免费视频

??12月27日,共同书写中国式现代化建设新篇章——热烈祝贺全国两会胜利闭幕,

  两个天才快速逃避,唯恐被击中,只要擦着,肯定会骨断筋折!

,色爽久久久久久亚洲射精,自拍偷拍一区二区三区,秋霞电影在线观看视频。

??12月27日,众行致远|全球治理凝聚“南方”力量 ,

  所有人都猖獗了,一起向前冲去,这片道场广袤无比,充满了霞光,宝藏惊人。

,韩日三级视频网,超碰97人人操人人干,国产精品91 在线。

??时势4:国产欧美日韩一区二区三区

??12月27日,三节课启动“AIGC学习节” 助力中国企业AI人才战略升级,

  党的xx大明确提出,必需以刷新立异精神周全推进党的建设新的伟大工程。我以为在新时期,立异是增强和刷新党的建设的动力和法宝。政研事情的立异我已在多次场合和聚会作了强调。这里,我着重就机关党建事情立异提几点要求:第一,头脑理念要立异。目今,对机关党建事情有两种片面头脑看法,一种是重营业,轻党建;另一种就是就党建抓党建,把党建事情和营业事情隔脱离来。这两种头脑看法和倾向都要不得。我们要开创机关党建事情新时势,必需突破这两种头脑看法,力争做到“三紧贴”:一要紧贴中心,把党建事情与牢牢围绕省委的中心事情细密连系起来,把党建事情跟政研事情有机连系起来;二要紧贴现实,细密连系政研事情的现实开展党建事情;三要紧贴生涯,更多的联系干部的事情和生涯现实,倾注更多的人文情绪、人文眷注,增强党建事情的亲和力和感召力。第二,事情载体要立异。要实着实在地研究一些行之有用的载体,来推进机关党建事情,我们可以在这方面做点研究、探索。好比,怎样开展一些主题主旨鲜明的教育活动。中央、省委这几年每一个时期都抓一个主题、开展主题教育活动,如在全党开展“三个代表”主要头脑学习教育、科学生长观学习实践活动等等。我们政研室机关也应该有细密连系自身现实的主题教育活动。又好比,怎样开展一些常态化的建设学习型机关活动,不要似乎搞运动一样一阵子,要经常性地开展建设学习型机关活动。再好比,怎样开展“创先争优”活动。这几年,我们在“创先争优”方面确实是做了些事情,也爆发了一些优异共产和先进党支部。可是,这项事情总的看尚有待进一步完善,在这方面确实还值得研究。另外,机关党建事情不但要围绕省委的中心事情、营业事情,同时还要在富厚文化生涯、熏陶情操方面开展一些有意见意义的文体活动。这些都可以作为机关党建的事情载体,进一步加大立异力度,真正使机关党建事情细密连系现实,寓教于乐、寓乐于教。第三,事情机制要立异。党建事情的恒久生命力在于建设和完善一套行之有用的长效事情机制。我恒久以来从事党建事情,对党建事情深有感受。尤其是我感应机关的党建事情相对市县来说,有的地方还保存着盲区。因此,机关党建怎么抓,特殊是的先进性怎么体现,值得深入研究。省委政研室100%是共产,若是50%是群众尚有一个较量,全室都是,先进性怎么体现,我以为要通过长效机制的建设,来进一步推念头关党建事情。有这么几项事情机制值得建设和完善:第一项是党建事情责任制。主要是室向导班子要推行“一岗双责”,既要抓营业事情,又要抓整个研究室的党建事情,切实解决机关党建事情“讲起来主要、抓起来次要、忙起来遗忘”的征象。我们要切实改变这一征象,突出抓好向导干部的树模作用,真正做到“四个带动”,即带动加入机关党组织开展的活动,带动做好机关党组织安排安排的事情,带动执行机关党组织的决议,带动接受组织和的监视。室向导班子成员在推行党建事情责任制方面一定要做到这样“四个带动”。第二项是机关党委事情运行机制。政研室的人数不是许多,机关党委的人数配臵也是较量少,只有一名专职干部。以是,机关党委的事情落实要害是要靠建设和完善好的运行机制。要通过机关党委事情规则,明确机关党委委员分工,制订机关党委委员职责,真正推念头关党委各项事情的落实。已往这一块还没有很成型的事情运行机制,新一届机关党委一定要建设这个事情机制,真正使每个机关党委委员推行起机关党委的事情职责。这样就形成整体抓党建的协力,不然机关党建事情,在机关党委这个层面就软弱无力;氐澄谠吹幕∩,进一步增强这方面事情。第三项是党支部事情机制。要坚持处室认真人担当党支部书记,实验“一岗双职双目的”,增进营业事情和党建事情落到实处。我们的支部建在处室,特殊是政研室基本上一个处一个支部,这样就有利于营业事情和党建事情细密连系。处长是“一岗双职双目的”,两项事情一起抓;氐辰ㄊ虑榛钤静换钤,要害在支部的事情。统一处室里,事情在一起,同志们的情形最相识,活动最容易安排。各个支部在“创优争先”上,要一直创立新的活动方法,希望各个支部书记既要抓好营业事情,更要立异党建事情思绪。这里,我还要强调一下,机关党委和各支部都要进一步完善头脑政治事情制度,做到“三个实时、三个解决”,即:实时掌握干部的头脑状态,解决他们保存的模糊熟悉;实时疏通和坚持干部的联系,解决他们提出的合理建媾和要求;实时剖析研究干部头脑问题,解决他们事情学习生涯中遇到的现实难题;氐澄谠銮客纺哉问虑榉矫娑嘞鹿Ψ。第四项是增进施展作用的激励机制。通过“创优争先”主题活动,形成一种声誉激励;通过开展学习先进典范活动,形成典范激励;通过完善果真、公正、公正的选人用人机制,形成导向激励。第五项是干部清廉自律机制。这方面很主要,增强监视是一方面,自律更为主要。

,一级国产日姘视频,黄游戏入口免费在线玩,日本AAAA又大又粗。

??12月27日,万物皆可飞上天!老外眼中的潍坊国际风筝节,

  3、要增强法制看法和群众看法。随着依法治国看法的一直深入,农村下层干部的法制看法也在逐步增强。但也有一些干部法制看法淡漠,不懂执律例则,不依法效劳,甚至自觉不自觉地违规违纪O虏愀刹坎灰婪ㄐЮ,很容易引发矛盾,甚至酿成大的事务O虏愀刹恐挥兄ǘ,才华帮群众答疑解惑,出点子、想步伐,解决现实问题。农村正在扩大下层民主,实验村民自治,但这种自治是依法自治。农村下层干部不学法,不懂法,就不知道怎样生长社会主义市场经济,就不知道怎样搞好下层民主法制建设,就无法真正维护群众的基础利益。农村下层干部直接和群众打交道,农村下层干部群众看法强,随处为群众着想,认真为群众效劳,遇事同群众探讨,干部的形象就好,党在农民群众中的威望就高。反之,就会直接影响党和政府的形象。因此,各人要通过学习,进一步切记党的宗旨,想农民所想,办农民所需,起劲学会在新的历史条件下做好群众事情的新要领。

,成年免费漫画A,山姬之实,美女114一级A视频。

【吉林生物教师自费建“百草园” 引中外人士感受生态之美】

【商务部回应欧盟拟对自华进口电动汽车征收临时反补贴税】

责编:杰瑞德-莱托

审核:萨曼莎·杰德

责编:刘松霞

相关推荐 换一换

Copyright (C) 2001-   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001- Dzwww   鲁ICP备09023866号-1

网站地图