猫眼影戏
 |
|
猫眼影戏
莫兹多克
手机审查
猫眼影戏记者 祁梦竹 报道Q8X2R7L1T4J5M9B6W3
新智元报道
编辑：倾倾
【新智元导读】学霸的假话被揭穿！一篇来自Adobe Research的论文发明 ，高语义明确并不会提升天生质量 ，反而可能破损空间结构。用iREPA简朴修改 ，削弱全局滋扰 ，天生质量连忙飙升 。
我们经；嵋苫螅何裁词泳跄Ｗ釉礁呒 ，天生效果反而越差？
最近 ，Adobe Research发了一篇论文 ，专门诠释了这个看起来有点变态、但重复泛起的征象。
论文地点：https://arxiv.org/pdf/2512.10794
按直觉 ，模子要先知道「这是什么」 ，才华把它画出来。
ImageNet上的分类准确率越高 ，说明模子的语义明确越强 ，天生的内容越稳固、越靠谱。
但这篇论文给出的效果 ，完全相反：
一些在识别使命中体现平平、甚至看起来「很不智慧」的视觉编码器 ，反而能天生出结构更清晰、质量更高的图像。
全局语义能力越强 ，天生反而越容易出问题。
很可能我们从一最先 ，就误会了天生模子真正善于的是什么。
为什么视觉模子越「智慧」 ，天生的反而越差？
先看一个已经被重复验证的事实：一个模子在ImageNet上的线性探测准确率越高 ，并不料味着它更适适用来做天生。
最直观的例子是SAM2。这是一个在识别使命里不出彩的模子 ，验证准确率只有24.1% ，远低于主流视觉大模子。
但当这些编码器被用于REPA时 ，SAM2的天生质量反而优于一批准确率横跨约60%的模子。
SAM2的ImageNet验证准确率仅为24.1% ，但在REPA框架下的天生gFID显着优于多种准确率凌驾70%的视觉编码器。
这还不是某一个模子的无意体现。
论文进一步较量了统一编码器家族中差别规模的模子 ，效果发明：模子越大、分类准确率越高 ，天生质量反而可能相似或更差。
随着模子规模和分类准确率提升 ，天生gFID反而整体变差 ，批注这一征象并非由个体模子导致。
显然 ，「高语义能力=好天生」这条默认路径 ，在大宗实验中并不建设 。
更要害的是 ，这种征象并不是噪声。
在跨模子、跨设置的系统性剖析中 ，全局语义指标与天生质量之间的相关性始终很是弱。
分类能力与天生质量险些无关 ，空间结构却高度相关。左：线性探测准确率与天生 gFID 的相关性极弱（Pearson r=-0.26）。中：空间结构指标（LDS）与天生质量泛起出显著强相关（Pearson r=-0.85）。右：基于空间结构刷新的iREPA ，在多种编码器上稳固优于REPA。
论文进一步对多种视觉编码器做了相关性剖析 ，效果很是明确：
线性探测准确率与天生质量之间险些不保存相关性。
相比之下 ，反应patch空间结构的指标 ，与天生质量泛起出极强的正相关关系。
若是不是「明确多」 ，那天生模子究竟依赖的是什么？
重复确认会压扁空间结构
在明确了「高语义≠好天生」之后 ，真正的问题酿成了：
为什么模子越是重复确认 ，天生反而越容易出问题？
要害就是 ，全局语义会在天生历程中压扁空间结构。
在天生使命中 ，模子并不是一次性输出图像 ，而是在训练和采样历程中 ，一直对局部patch之间的关系做判断。
论文将这种能力归纳综合为「空间结构」：即相邻patch之间应坚持更高相似性 ，而远处patch不应被全局语义过早拉近。
但当模子太过追谴责局语义一致性 ，好比通过CLS token ，或对所有patch做全局平均来强化「这是什么」 ，这些局部差别就会被系统性地削弱。
这种做法会导致一个直接效果：远景物体的patch ，与本应无关的配景patch之间 ，泛起异常高的相似性。
空间比照度下降 ，界线变得模糊 ，天生效果因此糊成一片。
PE-G和WebSSL-1B在ImageNet上具有更高的分类准确率 ，但它们的空间自相似性显示 ，远景与配景被太过拉近 ，界线模糊。相比之下 ，空间结构更清晰的SpatialPE-B ，天生质量显著更好。
研究员向模子中逐步加入全局语义信息 ，视察分类能力和天生质量的转变。
效果如下图所示：
增强全局语义信息会损害天生质量
随着全局信息权重α从0增添到0.5 ，模子的线性探测准确率一连上升。
但天生质量却显著下降 ，FID显着恶化。
也就是说 ，「更懂这是什么」确着实爆发；但与此同时 ，模子也失去天生所依赖的空间结构。
这并不是优化不充分的副作用 ，而是由于全局语义在天生阶段饰演了一个「过强约束」的角色。
它让模子更快告竣结论 ，却也更早放弃了对局部结构的细腻描绘。
既然语义会滋扰天生 ，iREPA选择退后一步
若是说前面的实验回覆了「问题出在哪」 ，那 iREPA 回覆的就是另一个问题：
既然全局语义会滋扰天生 ，那该怎么对齐体现 ，才不会把结构压扁？
iREPA给出了谜底。它对原本的REPA训练流程做了两处很是简朴的修改 ，总共不到四行代码 。
第一处 ，是投影方法的改变。
在标准REPA中 ，patch表征通；峋蒑LP投影层举行对齐。
但论文指出 ，MLP在这一历程中容易混淆差别位置的信息 ，无意中削弱了空间比照度 。
因此 ，iREPA用一个3×3的卷积层（padding=1）替换了MLP投影。
卷积的归纳偏置能保存局部邻域关系：相邻patch的相互影响被保存 ，远处区域则不会被过早混在一起 。
第二处修改 ，直接针对全局语义。
iREPA在对齐历程中引入了一个空间归一化层 ，移除了patch特征中的全局均值分量 ，让模子专注于局部之间的差别与界线。
iREPA怎样通过两处修改 ，恢复天生所需的空间结构。 (a) 使用卷积投影替换MLP ，可更好地保存局部空间关系。 (b) 空间归一化层通过移除全局分量 ，提高patch之间的空间比照度。 (c) 经由这两步修改后 ，iREPA天生的diffusion特征泛起出更清晰的空间结构。
正是这两点改动 ，让iREPA在机制上与前一节的问题形成了严酷对应：
全局语义太强会抹平结构 ，那就在对齐阶段削弱全局分量、强化空间关系 。
效果也在意料之中。
无论是在ImageNet规模的天生使命 ，照旧更高区分率的设置 ，亦或是文本到图像的多模态天生使命中 ，iREPA都体现出更快的收敛速率和更好的最终天生质量。
更主要的是 ，这种提升并不依赖于某一个特定编码器。
在差别模子规模、差别视觉主干网络、差别训练设置下 ，iREPA都能稳固刷新。
这不但是一个技巧 ，而是顺着天生使命自己对结构的需求 ，把体现对齐这件事做得更榨取、更细腻。
许多时间 ，我们讨论天生模子时 ，会下意识沿用一个标准。
但这篇论文提醒了我们 ，天生并不是明确的自然下游。
对天生来说 ，最主要的并不是「这是什么」 ，而是「哪些地方该靠近 ，哪些地方该脱离」。
当我们一味强化全局语义 ，重复鞭策模子给出谜底 ，着实是在替它提前下结论。
iREPA并没有试图让模子变得更智慧。它做的更像是退后一步 ，把空间还给空间 ，把结构还给结构。
效果不是明确能力的奔腾 ，而是天生质量的回归。
参考资料：
https://x.com/1jaskiratsingh/status/2000701128431034736?s=20
https://end2end-diffusion.github.io/irepa/
秒追ASI
?点赞、转发、在看一键三连?
点亮星标 ，锁定新智元极速推送！
??时势1：欧美成人性色生活片
??12月27日,海南离岛免税促销引客 “五一”假期购物额5.47亿元,
六、实验财务治理规范化工程。
,莫妮卡被扒开双腿猛烈进入小说。??12月27日,拂影·2024第十一季SIUF国际超模大赛总决赛在深圳举办,
(一)高起点妄想。妄想是都会建设的纲要 ，乐成的妄想可以节约大宗的资源 ，可以使都会获得一连生长的动力。为了搞好历史文假名城； ，今年我们可能要放纵拆迁一些严重影响市容风貌的修建。从历史文假名城；さ慕嵌瓤 ，必需这样做。我们妄想拆的这些修建物 ，120xx年以上的没有 ，50年以上的也没有 ，大大都是近30年来陆续不按妄想建设的。我们的都会化生长最大的误差就在于我们自己作育了一大批的垃圾修建 ，这也是我们都会化建设不得不支付的价钱和学费。以是 ，我们推进新型城镇化 ，若是还不重视妄想 ，还在妄想上犯这样那样的过失 ，特殊是在妄想上继续犯倾覆性和系统性的过失 ，那么我们的决议者就会成为历史的罪人。因此 ，都会建设必需高起点妄想 ，必需包管较高条理。张掖的都会妄想 ，要注重五个条理。第一个条理 ，是两个“1+5”的都会框架系统 ，也就是宜居宜游生态都会建设妄想和市区主城区加5个功效区妄想。这个妄想现在已经概略形成 ，主要是完善执行的问题。第二个条理 ，是都会的总体妄想 ，主要是指市区和五县县城。这项事情现在也概略完成了 ，所剩的使命未几 ，有一些妄想随着形势的生长可能需要重新修编。第三个条理 ，片区的控规和建设性详规。这个妄想是我们现在最薄弱的环节 ，也是差别最大的地方 ，更是未来形成都会风貌的最要害的环节。对这个妄想 ，我们普遍重视不敷 ，执行不严酷 ，水平和条理较量低 ，需要着力增强 ，今年内市区的片区控规和建设详规要基本完成 ，各县的详规和控规最晚也要于明年年底前完成 ，使都会建设有章可循。第四个条理 ，小城镇妄想。我们的65个州里 ，一部分做了妄想 ，一部分还没做 ，这也是我们下一步亟待增强的重点环节。第五个条理 ，墟落妄想。我们这几年搞了大宗的“四化”新村 ，偏向是准确的 ，效果也是显着的 ，但问题也是突出的 ，由于许多村子没有做到妄想先行 ，留下了许多遗憾。因此 ，我们要凭证各县区差别的功效定位和事情时序 ，加速总规修编 ，填补详规和控规的缺失 ，扎实做好村镇两级妄想。各县区在修编审定妄想的时间 ，要起劲与天下着名的甲级资质设计单位形成同盟 ，由他们来做看法性妄想和总体建设 ，然后由我们的设计单位来做施工图纸设计。
,精品剧情v国产在线观看,日韩精品一区,国产日韩精品中文字无码。??时势2：国产精品自产拍在线观看收藏
??12月27日,“巴铁”空军上校：兄弟！我们喜欢中国飞机！我爱中国人,
青鳞鹰抓狻猊的遗体时 ，想要振翅 ，未曾想一个趔趄 ，差点栽倒在地上。
,国产精品911在线观看,丰裕纵满的护士,第5人格本子18。??12月27日,重庆市首家林业专营支行在丰都落地,
“就这么一个村子 ，也值得兴师动众？依我看 ，马踏而过 ，一个攻击就将这里夷为平地。”金狼部落的人说道。这是一群铁骑 ，所有人都骑坐在鳞马上 ，甲胄明亮 ，长矛锋锐 ，阔刀雪亮 ，遥指前方。
,免费看一人一级毛片,人人干,人人操,人人看,国产强奸乱伦视频。??时势3：老头玩老头456HD
??12月27日,沉睡3000多年，小古城遗址还有哪些未解之谜？,
(一)坚持高起点妄想 ，提高都会妄想设计层次。一是要铺开妄想设计市场。要一直整理和规范妄想设计市场秩序 ，完善市场机制 ，一切妄想设计项目都要向海内外果真招标 ，果真定标。重点妄想设计项目 ，要约请海内外著名专家加入设计 ，确保都会妄想的高起点、高水平、高质量。二是要加大妄想设计深度。都会的妄想设计要充分体现外地历史文化秘闻 ，自然风貌特色 ，新世纪现代化气息。要加速控制性详细妄想的体例程序 ，使都会所有土地的开发和建设置于都会妄想的严酷控制之下。对城镇区域内各片区的土地使用性子、开发强度、容积率、绿地率等都要做出控制性详细妄想 ，条件成熟时上升为法定图则 ，在三至五年内 ，控制性详细妄想要周全笼罩城镇建成区。在都会详细妄想中 ，要确定妄想红线、生态绿线、自然水体；だ断摺⒗肺幕智；ぷ舷 ，并向社会宣布。三是要理顺妄想治理体制。要高度集中妄想治理权 ，凭证妄想治理权上移的要求 ，一个都会只准设立一个都会妄想主管部分 ，实验政府对都会妄想实验权的集中统一。建设科学民主的妄想决议机制。凭证省委、省政府的统一要求 ，市和各县都要建设由、专家和社会各界代表组成的都会妄想委员会 ，作为政府都会妄想设计的决议咨询机构 ，所有都会妄想设计项目都必需经由妄想委员会的咨询论证 ，以后 ，未经妄想委员会论证的妄想设计项目 ，政府一律不予审批。加速建设妄想、土地、房产统一的治理体制 ，使土地和房产治理成为妄想实验的有用包管。四是要依法增强妄想治理。都会计齐整经确定 ，就要严酷依法实验 ，任何单位和小我私家都无权干预 ，更不可随意变换 ，确需变换的 ，必需严酷按法定程序举行。要进一步增强建设项目的妄想治理 ，不切合都会妄想的项目不得批准立项 ，未体例控制性详细妄想的地块不得出让、转让和开发建设。任何建设项目都不得突破红线、绿线、蓝线和紫线。要加大妄想治理的深度 ，严酷实验都会妄想错案行政责任追究制度 ，对违法用地和违法建设要严肃举行查处 ，依法追究有关责任人的责任。五是要强化对都会妄想事情的社会监视。周全推行"阳光妄想" ，在妄想体例、审批和实验的全历程实验公示制度 ，对建设工程项目妄想允许的审批 ，实验批前和批后15天的公示制度 ，扩至公众加入 ，普遍接受社会监视 ，确保都会妄想的科学合理。
,黃色毛片網站,久久wwwAAA特级无码,人人操人人毛片。??12月27日,山西襄汾出土晋国贵族墓 陪葬器物折射诸侯国关系,
敏锐的觉察到这些后 ，他一下子震惊了 ，那可是远古遗种啊 ，横扫一方 ，难以遇到敌手 ，现在却在做这种事。
,被主人摁住灌浓精尿GIF,永久免费看黄片视频,免费看AV大片的网站久久。??时势4：mmxxxx在线观看
??12月27日,一手拿钥匙、一手拿房本！“交房即交证”背后有这些创新→,
(1)在路上靠右边走 ，不在公路上追逐打闹 ，过公路时要做到：一停二看三通过。
,黑人A∨网站,亚洲处破女A片60分钟,国产一级国产一级在线。??12月27日,2023年乌鲁木齐国际互换局共处理国际邮件逾740万件,
他读罢原始真解 ，感悟颇深 ，逾越以前的认知 ，明晓了符文最本源的意义 ，最先重修搬血境。一粒又一粒光点浮现 ，若诸天神魔 ，常住其躯 ，为其诵经 ，守护其形 ，喂养其神 ，令他脱胎 ，一直强盛。
,永久免费看黄色电影网站,有色视频哪里可以看自拍,激情在线图片。责编：陈兴根
审核：熊小冰
责编：吕贤修
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
