猫眼影戏
 |
|
猫眼影戏
鲁登道夫
手机审查
猫眼影戏记者 麦克·辛 报道Q8X2R7L1T4J5M9B6W3
新智元报道
编辑：倾倾
【新智元导读】学霸的假话被揭穿！一篇来自Adobe Research的论文发明，高语义明确并不会提升天生质量，反而可能破损空间结构。用iREPA简朴修改，削弱全局滋扰，天生质量连忙飙升 。
我们经；嵋苫螅何裁词泳跄Ｗ釉礁呒，天生效果反而越差？
最近，Adobe Research发了一篇论文，专门诠释了这个看起来有点变态、但重复泛起的征象。
论文地点：https://arxiv.org/pdf/2512.10794
按直觉，模子要先知道「这是什么」，才华把它画出来。
ImageNet上的分类准确率越高，说明模子的语义明确越强，天生的内容越稳固、越靠谱。
但这篇论文给出的效果，完全相反：
一些在识别使命中体现平平、甚至看起来「很不智慧」的视觉编码器，反而能天生出结构更清晰、质量更高的图像。
全局语义能力越强，天生反而越容易出问题。
很可能我们从一最先，就误会了天生模子真正善于的是什么。
为什么视觉模子越「智慧」，天生的反而越差？
先看一个已经被重复验证的事实：一个模子在ImageNet上的线性探测准确率越高，并不料味着它更适适用来做天生。
最直观的例子是SAM2。这是一个在识别使命里不出彩的模子，验证准确率只有24.1%，远低于主流视觉大模子。
但当这些编码器被用于REPA时，SAM2的天生质量反而优于一批准确率横跨约60%的模子。
SAM2的ImageNet验证准确率仅为24.1%，但在REPA框架下的天生gFID显着优于多种准确率凌驾70%的视觉编码器。
这还不是某一个模子的无意体现。
论文进一步较量了统一编码器家族中差别规模的模子，效果发明：模子越大、分类准确率越高，天生质量反而可能相似或更差。
随着模子规模和分类准确率提升，天生gFID反而整体变差，批注这一征象并非由个体模子导致。
显然，「高语义能力=好天生」这条默认路径，在大宗实验中并不建设 。
更要害的是，这种征象并不是噪声。
在跨模子、跨设置的系统性剖析中，全局语义指标与天生质量之间的相关性始终很是弱。
分类能力与天生质量险些无关，空间结构却高度相关。左：线性探测准确率与天生 gFID 的相关性极弱（Pearson r=-0.26）。中：空间结构指标（LDS）与天生质量泛起出显著强相关（Pearson r=-0.85）。右：基于空间结构刷新的iREPA，在多种编码器上稳固优于REPA。
论文进一步对多种视觉编码器做了相关性剖析，效果很是明确：
线性探测准确率与天生质量之间险些不保存相关性。
相比之下，反应patch空间结构的指标，与天生质量泛起出极强的正相关关系。
若是不是「明确多」，那天生模子究竟依赖的是什么？
重复确认会压扁空间结构
在明确了「高语义≠好天生」之后，真正的问题酿成了：
为什么模子越是重复确认，天生反而越容易出问题？
要害就是，全局语义会在天生历程中压扁空间结构。
在天生使命中，模子并不是一次性输出图像，而是在训练和采样历程中，一直对局部patch之间的关系做判断。
论文将这种能力归纳综合为「空间结构」：即相邻patch之间应坚持更高相似性，而远处patch不应被全局语义过早拉近。
但当模子太过追谴责局语义一致性，好比通过CLS token ，或对所有patch做全局平均来强化「这是什么」，这些局部差别就会被系统性地削弱。
这种做法会导致一个直接效果：远景物体的patch，与本应无关的配景patch之间，泛起异常高的相似性。
空间比照度下降，界线变得模糊，天生效果因此糊成一片。
PE-G和WebSSL-1B在ImageNet上具有更高的分类准确率，但它们的空间自相似性显示，远景与配景被太过拉近，界线模糊。相比之下，空间结构更清晰的SpatialPE-B，天生质量显著更好。
研究员向模子中逐步加入全局语义信息，视察分类能力和天生质量的转变。
效果如下图所示：
增强全局语义信息会损害天生质量
随着全局信息权重α从0增添到0.5，模子的线性探测准确率一连上升。
但天生质量却显著下降，FID显着恶化。
也就是说，「更懂这是什么」确着实爆发；但与此同时，模子也失去天生所依赖的空间结构。
这并不是优化不充分的副作用，而是由于全局语义在天生阶段饰演了一个「过强约束」的角色。
它让模子更快告竣结论，却也更早放弃了对局部结构的细腻描绘。
既然语义会滋扰天生，iREPA选择退后一步
若是说前面的实验回覆了「问题出在哪」，那 iREPA 回覆的就是另一个问题：
既然全局语义会滋扰天生，那该怎么对齐体现，才不会把结构压扁？
iREPA给出了谜底。它对原本的REPA训练流程做了两处很是简朴的修改，总共不到四行代码 。
第一处，是投影方法的改变。
在标准REPA中，patch表征通；峋蒑LP投影层举行对齐。
但论文指出，MLP在这一历程中容易混淆差别位置的信息，无意中削弱了空间比照度 。
因此，iREPA用一个3×3的卷积层（padding=1）替换了MLP投影。
卷积的归纳偏置能保存局部邻域关系：相邻patch的相互影响被保存，远处区域则不会被过早混在一起 。
第二处修改，直接针对全局语义。
iREPA在对齐历程中引入了一个空间归一化层，移除了patch特征中的全局均值分量 ，让模子专注于局部之间的差别与界线。
iREPA怎样通过两处修改，恢复天生所需的空间结构。 (a) 使用卷积投影替换MLP，可更好地保存局部空间关系。 (b) 空间归一化层通过移除全局分量，提高patch之间的空间比照度。 (c) 经由这两步修改后，iREPA天生的diffusion特征泛起出更清晰的空间结构。
正是这两点改动，让iREPA在机制上与前一节的问题形成了严酷对应：
全局语义太强会抹平结构，那就在对齐阶段削弱全局分量、强化空间关系 。
效果也在意料之中。
无论是在ImageNet规模的天生使命，照旧更高区分率的设置，亦或是文本到图像的多模态天生使命中，iREPA都体现出更快的收敛速率和更好的最终天生质量。
更主要的是，这种提升并不依赖于某一个特定编码器。
在差别模子规模、差别视觉主干网络、差别训练设置下，iREPA都能稳固刷新。
这不但是一个技巧，而是顺着天生使命自己对结构的需求，把体现对齐这件事做得更榨取、更细腻。
许多时间，我们讨论天生模子时，会下意识沿用一个标准。
但这篇论文提醒了我们，天生并不是明确的自然下游。
对天生来说，最主要的并不是「这是什么」，而是「哪些地方该靠近，哪些地方该脱离」。
当我们一味强化全局语义，重复鞭策模子给出谜底，着实是在替它提前下结论。
iREPA并没有试图让模子变得更智慧。它做的更像是退后一步，把空间还给空间，把结构还给结构。
效果不是明确能力的奔腾，而是天生质量的回归。
参考资料：
https://x.com/1jaskiratsingh/status/2000701128431034736?s=20
https://end2end-diffusion.github.io/irepa/
秒追ASI
?点赞、转发、在看一键三连?
点亮星标，锁定新智元极速推送！
??时势1：giantess18 大型网站
??12月25日,滇黔桂三省（区）共管库区水上搜救联合应急演练举行,
这头狼全身金色光华流动，有一种比人更强盛的威严，金色眼球冷漠，扫过众人，让每一位强者倒退，近乎要窒息，它比谁人老人更恐怖。
,颜面坐脸女王。??12月25日,《高原中华龙》策展人：金龙何以巧牵京藏情？,
3、电器使用完某人脱离时，实时关闭电源，以防电器过热而爆发危险。
,欧美亚洲另类国产19p,国产专区1,无码精品人在线观看。??时势2：美杜莎被 到爽被爆视频qq群
??12月25日,这个五一假期，游客“爆单”的天安门广场地区是怎么做到井然有序的？,
它张口喷出一道可怖的光线，直接席卷了天上地下，若无适才的宝骨镇压苍莽山脉，必将生灵涂炭，它震散漫天的云朵，璀璨神光斩向前方，这是一种至强的宝术！
,激性欧美在线观看,触手监狱下载1.2G下载,lls_app_2024_apk安装包。??12月25日,跨越一甲子的双向奔赴：“国家的孩子”回家了,
目今，国家的金融政策是支持县域经济和中小企业(特殊是小微企业)的生长。对我们来讲，推动全区工业经济转型升级是实现全区经济社会跨越式生长的要害，只有支持了工业经济，才华更有力地增进地方经济的生长。下一步，我们将进一步转变谋划理念，明确信贷重点，加大投放力度，更好地效劳工业经济的生长。一是要切实转变谋划理念。要一直强化市场意识，准确处置惩罚好存与贷的关系，既要树立“存款立行”的生长看法，更要树立“贷款兴行”的谋划理念，起劲战胜不切合市场经济纪律的“零危害”信贷意识，把做活、做好信贷资金作为增强自身盈利能力的主攻偏向，找准危害与收益的最佳切入点，千方百计地扩大对企业的信贷投入，慎贷而不吝贷。二是要起劲转变事情作风。要自动深入企业效劳，变被动接受贷款申请为自动寻找优质客户工具，变坐等营业为深入企业一线设点跟踪效劳，自动为企业提供国家金融政策、金融形势、贷款程序、金融产品等方面的信息咨询效劳，起劲资助企业举行经济剖析、市场展望，加入企业重点项目论证。对市场远景好、投资回报率高的项目建设，起劲为企业提供信贷支持，同时加大对优质客户的信贷支持力度，对企业有用的资金需求要自动资助解决，建设一支稳固的信贷客户群，实现营业的一直生长。三是要逐步富厚金融产品。现在，我行支持中小企业的信贷产品主要有：企业联保贷款、典质贷款、信用贷款、银行承兑汇票等。下一步，我们将马上开通“网上银行”营业，为客户提供越发便捷的结算渠道，进一步利便企业的财务治理。别的，我行还将尽快推出创业卡营业，这是一种专门为小微企业量身定制的新产品，创业卡主要面向优质个体工商户和小企业谋划主等中高端小我私家客户，具有通俗借记卡结算和小我私家循环贷款两大功效，授信额度在30万元至100万元之间，持卡人在获得授信后，就可以通过网点柜面、网上银行和自助装备等办理贷款、还款营业。同时，它具有“一次授信、循环使用、自助放款、担保无邪”的优势，关于正准备创业或处于事业成恒久的客户来说，它能够最大限度地知足小微企业实时无邪、利便快捷的信贷效劳需求。四是要打造一家科技支行。我行将在效劳好“三农”的基础上，有重点的支持开发区的工业生长，今年，我行拟将在南城开发区设立科技支行，这也是全省第二家的科技支行，专注效劳园区内的科技型中小企业。现在，我行已与市科技局举行了充分的对接，告竣了起源相助意向，由市科技局牵头组建科技担保公司，通过科技财务的指导作用，与我行信贷资金捆绑配合来帮助首创型、生长型、科技型的中小企业，关于市政府认定的市级以上的科技型企业，我们将凭证基准利率来提供信贷支持，资助企业做大做强，增进园区工业经济的生长。
,一级性爱乱伦视频,东京热婷无码人妻一区二区Av,国产女同性恋。??时势3：免费一级欧美精品日韩免费一级
??12月25日,【冰雪春天】AI眼中的中国｜和国宝熊猫“开开”“心心”上冰雪,
“幽雨，你这次衔命出行西疆，手中一共只有八块符牌罢了，这已经是最后一块了，就这般给了这个孩子？”一位中年人问道。
,久久性生活视频,黑人大吊,啊啊啊~好大~嗯嗯嗯~c我~射。??12月25日,雷军现身珠海航展，并登上运油-20参观,
他双臂间银色符文密布，双手划动，前方浮现重大的银色磨盘，徐徐旋转，如两座银色的山峰在摩擦，发出恐怖的声响。
,国产一极毛片在线看,久久国产美12AV,麻涩部免费 成人 游戏,。??时势4：视频,国产精品
??12月25日,湖南推动周敦颐理学文化传承发展,
“爷爷尚有父亲说了，要我和你订婚，你什么时间允许。俊笔沈缘呐呱实。
,少妇激情A片在线观看,午夜福利大全,亚洲第一国产黄色视频亚洲网站。??12月25日,碳14供应全面国产化,
我们为你祝福为你喝彩
,国产aa一级孕妇久久黄色片,,全黄色视频,老妇肥熟凸凹丰满刺激。责编：邱德平
审核：程青松
责编：卡特拉尼
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
