猫眼影戏
 |
|
猫眼影戏
乔尔·富尔曼
手机审查
猫眼影戏记者 智伟文 报道Q8X2R7L1T4J5M9B6W3
新智元报道
编辑：倾倾
【新智元导读】学霸的假话被揭穿！一篇来自Adobe Research的论文发明，高语义明确并不会提升天生质量，反而可能破损空间结构。用iREPA简朴修改，削弱全局滋扰，天生质量连忙飙升 。
我们经；嵋苫螅何裁词泳跄Ｗ釉礁呒，天生效果反而越差？
最近，Adobe Research发了一篇论文，专门诠释了这个看起来有点变态、但重复泛起的征象。
论文地点：https://arxiv.org/pdf/2512.10794
按直觉，模子要先知道「这是什么」，才华把它画出来。
ImageNet上的分类准确率越高，说明模子的语义明确越强，天生的内容越稳固、越靠谱。
但这篇论文给出的效果，完全相反：
一些在识别使命中体现平平、甚至看起来「很不智慧」的视觉编码器，反而能天生出结构更清晰、质量更高的图像。
全局语义能力越强，天生反而越容易出问题。
很可能我们从一最先，就误会了天生模子真正善于的是什么。
为什么视觉模子越「智慧」，天生的反而越差？
先看一个已经被重复验证的事实：一个模子在ImageNet上的线性探测准确率越高，并不料味着它更适适用来做天生。
最直观的例子是SAM2。这是一个在识别使命里不出彩的模子，验证准确率只有24.1%，远低于主流视觉大模子。
但当这些编码器被用于REPA时，SAM2的天生质量反而优于一批准确率横跨约60%的模子。
SAM2的ImageNet验证准确率仅为24.1%，但在REPA框架下的天生gFID显着优于多种准确率凌驾70%的视觉编码器。
这还不是某一个模子的无意体现。
论文进一步较量了统一编码器家族中差别规模的模子，效果发明：模子越大、分类准确率越高，天生质量反而可能相似或更差。
随着模子规模和分类准确率提升，天生gFID反而整体变差，批注这一征象并非由个体模子导致。
显然，「高语义能力=好天生」这条默认路径，在大宗实验中并不建设 。
更要害的是，这种征象并不是噪声。
在跨模子、跨设置的系统性剖析中，全局语义指标与天生质量之间的相关性始终很是弱。
分类能力与天生质量险些无关，空间结构却高度相关。左：线性探测准确率与天生 gFID 的相关性极弱（Pearson r=-0.26）。中：空间结构指标（LDS）与天生质量泛起出显著强相关（Pearson r=-0.85）。右：基于空间结构刷新的iREPA，在多种编码器上稳固优于REPA。
论文进一步对多种视觉编码器做了相关性剖析，效果很是明确：
线性探测准确率与天生质量之间险些不保存相关性。
相比之下，反应patch空间结构的指标，与天生质量泛起出极强的正相关关系。
若是不是「明确多」，那天生模子究竟依赖的是什么？
重复确认会压扁空间结构
在明确了「高语义≠好天生」之后，真正的问题酿成了：
为什么模子越是重复确认，天生反而越容易出问题？
要害就是，全局语义会在天生历程中压扁空间结构。
在天生使命中，模子并不是一次性输出图像，而是在训练和采样历程中，一直对局部patch之间的关系做判断。
论文将这种能力归纳综合为「空间结构」：即相邻patch之间应坚持更高相似性，而远处patch不应被全局语义过早拉近。
但当模子太过追谴责局语义一致性，好比通过CLS token ，或对所有patch做全局平均来强化「这是什么」，这些局部差别就会被系统性地削弱。
这种做法会导致一个直接效果：远景物体的patch，与本应无关的配景patch之间，泛起异常高的相似性。
空间比照度下降，界线变得模糊，天生效果因此糊成一片。
PE-G和WebSSL-1B在ImageNet上具有更高的分类准确率，但它们的空间自相似性显示，远景与配景被太过拉近，界线模糊。相比之下，空间结构更清晰的SpatialPE-B，天生质量显著更好。
研究员向模子中逐步加入全局语义信息，视察分类能力和天生质量的转变。
效果如下图所示：
增强全局语义信息会损害天生质量
随着全局信息权重α从0增添到0.5，模子的线性探测准确率一连上升。
但天生质量却显著下降，FID显着恶化。
也就是说，「更懂这是什么」确着实爆发；但与此同时，模子也失去天生所依赖的空间结构。
这并不是优化不充分的副作用，而是由于全局语义在天生阶段饰演了一个「过强约束」的角色。
它让模子更快告竣结论，却也更早放弃了对局部结构的细腻描绘。
既然语义会滋扰天生，iREPA选择退后一步
若是说前面的实验回覆了「问题出在哪」，那 iREPA 回覆的就是另一个问题：
既然全局语义会滋扰天生，那该怎么对齐体现，才不会把结构压扁？
iREPA给出了谜底。它对原本的REPA训练流程做了两处很是简朴的修改，总共不到四行代码 。
第一处，是投影方法的改变。
在标准REPA中，patch表征通；峋蒑LP投影层举行对齐。
但论文指出，MLP在这一历程中容易混淆差别位置的信息，无意中削弱了空间比照度 。
因此，iREPA用一个3×3的卷积层（padding=1）替换了MLP投影。
卷积的归纳偏置能保存局部邻域关系：相邻patch的相互影响被保存，远处区域则不会被过早混在一起 。
第二处修改，直接针对全局语义。
iREPA在对齐历程中引入了一个空间归一化层，移除了patch特征中的全局均值分量 ，让模子专注于局部之间的差别与界线。
iREPA怎样通过两处修改，恢复天生所需的空间结构。 (a) 使用卷积投影替换MLP，可更好地保存局部空间关系。 (b) 空间归一化层通过移除全局分量，提高patch之间的空间比照度。 (c) 经由这两步修改后，iREPA天生的diffusion特征泛起出更清晰的空间结构。
正是这两点改动，让iREPA在机制上与前一节的问题形成了严酷对应：
全局语义太强会抹平结构，那就在对齐阶段削弱全局分量、强化空间关系 。
效果也在意料之中。
无论是在ImageNet规模的天生使命，照旧更高区分率的设置，亦或是文本到图像的多模态天生使命中，iREPA都体现出更快的收敛速率和更好的最终天生质量。
更主要的是，这种提升并不依赖于某一个特定编码器。
在差别模子规模、差别视觉主干网络、差别训练设置下，iREPA都能稳固刷新。
这不但是一个技巧，而是顺着天生使命自己对结构的需求，把体现对齐这件事做得更榨取、更细腻。
许多时间，我们讨论天生模子时，会下意识沿用一个标准。
但这篇论文提醒了我们，天生并不是明确的自然下游。
对天生来说，最主要的并不是「这是什么」，而是「哪些地方该靠近，哪些地方该脱离」。
当我们一味强化全局语义，重复鞭策模子给出谜底，着实是在替它提前下结论。
iREPA并没有试图让模子变得更智慧。它做的更像是退后一步，把空间还给空间，把结构还给结构。
效果不是明确能力的奔腾，而是天生质量的回归。
参考资料：
https://x.com/1jaskiratsingh/status/2000701128431034736?s=20
https://end2end-diffusion.github.io/irepa/
秒追ASI
?点赞、转发、在看一键三连?
点亮星标，锁定新智元极速推送！
??时势1：一个色综合色
??12月25日,突发！以色列发出撤离警告后袭击黎巴嫩首都南郊,
“这不太好吧？”云天宫的老人再次启齿，举行劝解。
,欧美日韩α片在线观看。??12月25日,接棒“尔滨” 沈阳又成东北旅游热门城市 这“泼天的富贵”如何城城相传？,
这学期，关于我们结业班的同砚来说是至关主要的.。两个多月后我们就要面临人生蹊径上第一道关口 —— 小升初。面临我们人生中的第一次挑战，我们一定会勇敢地迎接这次挑战。是以优异的效果结业，照旧带有遗憾脱离朝夕相伴的先生、同砚而去？同砚们，运气的航船掌握在我们自己手中，失败、乐成都只能代表已往，“雄关漫道真如铁，现在迈步重新越”。让我们将最后的两个多月作为新的起点，以更饱满的学习热情，更扎实的学习作风，在先生的悉心指导资助下，找准偏向、增强信心、战胜难题，投入到生动生动、主要有序、文明守纪的学习生涯中去，以 骄人的效果向先生、怙恃汇报。
,操视频免费看,胡桃屁股被掰开流水,免费三级一黄一级毛片。??时势2：锵锵锵锵锵游戏免费完整观看
??12月25日,博物馆火了，然后呢？,
天空中传来鸟鸣，紫云、大鹏、小青长的并不是很快，现在躯体有四米长，可是却可以展翅击天了，能突入云层上方，速率极快。
,国产日本欧美在线AAAAAAA,欧美一级黄片在线播放。,白丝细腿自慰喷水。??12月25日,中国代表团：潘展乐是第一位获得男子百米自由泳奥运金牌的亚洲选手,
可是在我们干部作风中确确实实还保存一些不可忽视的问题( 这个后面我还要重点叙述)。若是任其生长下去，党的蹊径、目的、政策就难以贯彻落实，事情落实就会走样变形。不但会贻误事情，还会影响干部的生长;我们千人桥优美的妄想和蓝图就难以实现，就会成为一纸空文;党群、干群关系就难以融洽，甚至会越发疏远、主要;安定团结的时势就会难以维持，甚至会酿出新的不稳固因素。以是，增强干步队伍头脑作风建设是加速千人桥生长，完成预期事情使命，推进工业化、都会化和农业工业化，维护好刷新生长稳固时势的要害，是我们面临的一项刻禁止缓的重大使命，必需抓紧抓好，抓出效果。
,awww毛片,黄漫 大乳18禁漫画网站,黄色网站免费看的国产无码的。??时势3：G漫彩虹官方网站进入
??12月25日,“十四冬”滑雪登山混合接力赛完赛 吉林队摘金, 关于接下来的妄想，李龙体现，9日晚就返回北京好好休息，接下来一段时间不会再宣布考试相关的分数、报考情形等，“关于考试效果，我也做了两手准备，不管什么样都接受。”,欧美美女裸体高潮视频a片,女生的肌肌被捅,国产精品一区二区网址。
??12月25日,权威访谈｜为中国式现代化筑牢健康根基——访国家卫生健康委党组书记、主任雷海潮,
第二，希望同砚们勤于学习，善于钻研，扎扎实实打好驻足社会的基础。当今时代是一个竞争的时代，也是一个学习的时代，宽大同砚要自觉比照周全生长的要求和学院的人才作育定位，起劲提高自己的综合素质和抵达人才作育目的应具备的优良品质，起劲把自己作育成为专业基础扎实、知能结构合理、综合素质优良，具备坚韧意志品质、较强贡献精神、立异意识和实践能力的德才兼备的新型人才？蒲У厝范ㄑ澳康，客观地剖析自身条件，有序地安排校园生涯，让自己的大学时光充分而不忙乱，主要而不压制，自由而不失控，多彩而不偏激。 第三，希望同砚们增强品德修养，鼎力大举弘扬文明新风，做精神文明建设的模范。目今，学院正大兴文明之风，希望同砚们连系学院文明修身工程，做到课堂文明、宿舍文明、就餐文明、举止文明、网络文明。大学生做人最主要的基础是有优异的头脑品德素质，包括责任感、品德感、执法看法、敬业精神等。以是希望各人在大学阶段学会生涯、学会体贴、学会相助、学会共事，学会尊重他人，学会准确处置惩罚种种矛盾、学会准确区分种种是非，做一个周全生长的四有新人。
,www.jizz.on,18 APP下载,国产欧美精品区一区二区三区孕妇。??时势4：色妞一区二区在线播放
??12月25日,“五一”假期中国国内旅游出游2.95亿人次,
一群人啼笑皆非，感受像是在面临原始人，这个小工具有点憨的可爱，怎么会有这种体现呢？
,黄色性爱视频久久,福利姬喷水福利视频一区二区,AV研究社。??12月25日,解放军驻香港部队组织第二十七次建制单位轮换,
“少族长快退吧，不祥之兆啊，祭灵扬弃了我们，并且还夺了我族祖器！”一位族老恐慌地大叫。
,日韩高清AV在线,性爱视频污一级片,黄色网站天天天。责编：巢晓
审核：孙国华
责编：胡混
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
鲁ICP备09023866号-1 鲁公网安备 37010202000111号
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
