猫眼影戏
 |
|
猫眼影戏
霍克顿
手机审查
猫眼影戏记者 沐兰汤 报道Q8X2R7L1T4J5M9B6W3
MiniMax海螺视频团队不藏了！
首次开源就揭晓了一个困扰行业已久的问题的谜底——
为什么往第一阶段的视觉分词器里砸再多算力 ，也无法提升第二阶段的天生效果 ？
翻译成明确话就是 ，虽然图像/视频天生模子的参数越做越大、算力越堆越猛 ，但用户现实体验下来总有一种玄妙的感受——这些重大的投入与产出似乎不可正比 ，模子离完全真正可用总是差一段距离。
So why ？问题 ，或许率就出在视觉分词器（Tokenizer）这个工具身上了。
当算力不再是谜底时 ，真正需要被重新审阅的 ，着实是天生模子的“起点”。
在目今主流的两阶段天生框架中（分词器+天生模子） ，业界已经在视觉分词器的预训练上投入了大宗算力与数据 ，但一个尴尬的事实是：
这些本钱 ，险些没有线性地转化为天生质量的提升
而MiniMax海螺视频团队 ，不止挑战了这一现实——用实验证实“Tokenizer的scaling能够提升模子性能”。
更要害的是 ，还带来了一款开箱即用、专为“下一代天生模子”打造的可扩展视觉分词器预训练框架——Visual Tokenizer Pre-training（以下简称VTP）。
只需换上这个视觉分词器 ，即可在不改变下游主模子（如DiT）任何训练设置的情形下 ，实现端到端天生性能的倍数级提升。
下面详细来看——
古板Tokenizer的缺陷：更好的重修≠更好的天生
要明确VTP保存的意义 ，首先我们需要回到更基础的问题上——
Tokenizer是什么 ？它又为何云云要害 ？
以AI生图为例 ，目今主流的生图模子险些清一色接纳了“两阶段”天生框架：
第一阶段（压缩）：使用视觉Tokenizer（如VAE）这个组件 ，将原始图像压缩并映射到一个潜在空间（latent space）中；第二阶段（还原天生）：再由以扩散模子为焦点的天生器（如DiT） ，在这个潜在空间中学习漫衍 ，并逐步还原、天生最终图像。
用一张图来形容这个历程be like（先压缩后还原）：
而Tokenizer ，就是在第一阶段中认真压缩图片信息的组件。
若是没有这个组件 ，扩散模子就得直接在数百万像素组成的原始像素空间中举行“去噪”和天生——其盘算重漂后和内存开销将是天文数字。
因此 ，Tokenizer称得上是让模子能够在消耗级显卡上运行起来的“要害元勋”。
除此之外 ，Tokenize历程所得的低维潜在表征 ，其质量直接决议了最终天生图像的语义保真度、细节富厚度以及整体真实性 ，以是业界也普遍以为——
从某种水平上来说 ，Tokenize险些决议了后续天生模子的上限。
基于此 ，人们在研究怎样提升下游天生模子的质量时 ，也不约而同地将重点放在了“怎样精准复刻原始像素”上 ，即要求模子将压缩后的潜在特征（latent）尽可能精准地还原为原始图像。
而问题 ，也正出在这里。
古板Tokenizer在追求“像素级重修”时 ，往往会太过着迷于捕获图像的局部纹理、噪点等低层信息 ，从而忽视了天生使命真正依赖的高层语义与整体结构。
这就像学渣为了应付考试 ，只想着死记硬背种种试题 ，却完全不明确问题背后的知识点与逻辑结构。效果真正到了需要闻一知十、解决新问题的时间 ，一下就傻眼了。
在论文中 ，海螺视频团队将这一征象界说为“预逊放问题”（Pre-training Scaling Problem）：
更好的像素级重修精度并不可带来更高质量的天生效果
如图所示 ，古板仅基于“重修”目的训练的Tokenizer（灰线） ，随着算力投入增添 ，模子的天生性能不但没有提升 ，反而逐渐趋于饱和甚至略微下降。（ps：gFID权衡天生质量 ，越小越好）
由此 ，论文得出第一个要害发明：重修做得越好 ，天生反而可能越差；谎灾 ，古板VAE所依赖的纯重修训练范式 ，在面向天生使命时保存根天性局限。
那么 ，VTP是怎样破局的呢 ？
VTP破局之道：从像素级重修到强调“明确力”的主要性
事实上 ，VTP并非横空出生 ，而是海螺视频团队在恒久实践中重复试错与认知迭代的产品。
一些早期探索：从易学性到通用表征学习
在早期事情VA-VAE中 ，团队注重到：
有些“压缩后的特征”能让后续的扩散模子学得又快又好 ，而另一些则不可。
基于此 ，他们提出了“易学性”这一看法——即差别的潜在表征（latents）关于下游天生模子的学习难度截然差别 ，并期望通过优化latent的某些“友好特征”（如匀称性、频域漫衍等）来间接改善天生效果。
然而实践发明 ，这些要领虽有一定效果 ，却未触及实质。按团队自己的话来说就是：
实验将易学性等价为可准确盘算的简单指标（例如频域漫衍、匀称性、scale稳固性、低秩效应等等）有些过于理想了 ，这些指标可能和易学性有一定关联 ，但远不是所有。
就是说 ，当优化目的被限制在少数可丈量指标上时 ，模子往往只是学会了在特定指标上“刷分” ，而没有从基础上学会明确图像的结构与语义（实质上仍未脱离“重修”领域）。
△在VA-VAE中 ，团队曾实验将易学性对应到latent漫衍的“匀称性”
而经由一连反思 ，团队逐渐意识到VA-VAE和厥后的许多实验 ，其深层目的并非仅仅是优化几个指标 ，而是在试图让latents具备某些更高级的“结构”。其背后逻辑在于：
若是某种latents关于图像中的实体、位置关系具有高度结构化的表达 ，那么这种结构化表达关于下游diffusion建模来说也会更精练、更容易 ，这些方面的天生效果也自然会更好。
这就好比另一种层面上的“大道至简”——当模子真正掌握了物体、关系与语义这些视觉天下的实质纪律时 ，它能应对的使命自然也就越多了（以稳固应万变）。
因此 ，与其为“易学性”设计懦弱的署理指标 ，不如直接让Tokenizer去学习人类视觉系统自己所依赖的那种高度结构化、语义化的通用表征。
事实像CLIP、DINOv2这样的现代通用表征学习要领 ，正是在大规模数据上自动化地学习了这种“人类对齐”的视觉表达 ，才在多种下游使命中体现出强盛的泛化能力。
至此 ，团队的研究重心正式从“像素级重修”转向了强调理解力的“通用表征学习”。
VTP：回归“压缩即智能”实质
基于这一认知转变 ，VTP的设计原则变得异常清晰。团队体现：
我们应该融合所有已知有用的表征学习要领来构建一个Tokenizer
详细而言 ，VTP这次率先实现了从只练“重修”到“明确、重修、天生”的联合优化。
一是通过图文比照学习 ，建设高层语义明确。
在训练时 ，团队会给模子看大宗图像-文本配对数据（如“一只猫在沙发上”与对应图片） ，然后要求图片的特征向量和文字的特征向量尽可能靠近。
这和之前的CLIP思绪一脉相承 ，但目的更聚焦。CLIP追求的是广义的图文匹配能力 ，而VTP则要求Tokenizer在压缩图像为紧凑的潜在编码时 ，必需保存与文本对齐的语义结构。
这意味着 ，天生模子后续吸收到的每一个潜在体现 ，自己就已经是“有语义的”——它不但是一堆像素的压缩 ，而是携带了“猫”、“沙发”等看法及其关系的结构化表达。和以往相比 ，“语义注入”被提前到了压缩阶段。
二是通过自监视学习 ，掌握空间结构与视觉知识。
在VTP框架中 ，自监视学习 ？橥ü笛诼胪枷窠＃∕IM） 和自蒸馏（DINO气概） ，“迫使”模子去明确图片的空间关系和物体结构。
这个历程会“逼着”Tokenizer往返覆差别问题：
通过自蒸馏回覆：抛开详细的像素细节 ，这张图片最焦点的视觉主题或看法是什么 ？（全局语义）通过MIM回覆：凭证你看到的“冰山一角” ，你能推断出整个“冰山”的形状和结构吗 ？（结构推理）二者协同回覆：为了识别图片主题或从局部重修整体 ，哪些视觉线索是决议性、不可缺失的 ？（聚焦焦点）
这一套流程走下来 ，模子对图像的明确便不再停留在像素层面 ，而是构建起了却构化的视觉认知。
三是通过重修 ，保存须要的底层视觉细节。
VTP依然保存了重修目的 ，但它的定位爆发了转变——其作用不再是“越准越好” ，而是确保潜在空间中仍然保有天生所需的纹理、颜色与边沿等细节信息。
这三重目的并非伶仃举行 ，而是通过一个统一的多使命损失函数举行联合优化：
最终 ，VTP获得的不是一个在某个指标上“特殊优异”的压缩器 ，而是一个自带明确能力、对天生模子很是友好的视觉Tokenizer。
这里也增补一个细节：为什么他们不像许多事情一样直接使用现有的CLIP或DINOv2作为Tokenizer ，而非要投入重大算力重新预训练一个 ？
其焦点思索在于两点（团队原话如下）：
表征真的很主要 ，我们想要做到很极致。在我们的视角下表征包括了自监视、比照学习、甚至是重修（这些只是已知较量成熟的要领 ，现实上理想的表征远不止这些） ，市面上没有一个能够很好地融汇这些要领的模子 ，我们需要自己训练一个；诒碚鞯腡okenizer计划具备scaling的潜力 ，预训练是最合理的实现方法。若是直接使用已有模子蒸馏或者迁徙 ，会由于setting过于重大而破损scaling的性子 ，也会受限于已有的模子规格而无法做充分的论证。
以是 ，选择“重新最先”的VTP ，着实际体现事实怎样呢 ？
首次展示了Tokenizer的Scaling Law
归纳综合而言 ，团队通过VTP得出了两大概害发明：
明确力是驱动天生的要害因素视觉Tokenizer也具备明确的Scaling Law
先说第一点。
VTP用实验证实 ，若是只做重修的话 ，投入资源越多天生反而可能越差。
下图中 ，代表重修能力的rFID从2.0降至0.5 ，重修效果变好；但代表天生能力的gFID从55.04升至58.56 ，天生效果变差。
而一旦注入“明确力”（即引入CLIP图文比照/SSL自监视使命） ，模子的天生质量（gFID）会随着明确能力（Linear Probe）的提升而同步变好——
二者泛起显着的正相关 ，且这种提升会随着训练盘算量增添一连推进。相比之下 ，缺少“明确力”的古板AE Only计划 ，其天生质量和明确能力很快陷入障碍。
更进一步 ，团队在一律算力下比照了差别组合 ，证实“CLIP+SSL+AE”的联合训练方法上限最高 ，天生与明确指标均最优。
基于此 ，团队训练的VTP在明确、重修、天生方面均交出了不错的答卷——
在ImageNet上的零样天职类准确率抵达78.2% ，凌驾了原版CLIP的75.5% ，已经具备强通用视觉明确能力；在重修能力上凌驾了Stable Diffusion的VAE ， rFID低至0.36；在天生能力上凌驾了此前的刷新要领VA-VAE ，gFID低至2.81。
更要害的是 ，在抵达相同天生质量的条件下 ，VTP的训练收敛速率比LDM快5.7倍、比VA-VAE快4.1倍 ，大幅降低了训练本钱。
这一系列体现配合印证了团队的判断：Tokenizer的“语义明确力”而非纯粹的像素重修精度 ，才是驱动天生性能与效率提升的焦点动力。
再说第二点 ，也是更具突破性的一点。
团队在实验中发明 ，VTP首次展示了Tokenizer的Scaling Law ，即天生性能可以随预训练中投入的盘算量、参数目和数据规模有用增添。
仅从算力维度比照 ，在不改动下游DiT标准训练设置的条件下 ，纯粹将Tokenizer的预训练盘算量放大 ，VTP就能为最终天生效果带来65.8%的性能提升 ，且提升曲线仍未触顶。
反观古板自编码器（AE） ，其性能在仅投入约1/10盘算量时便已饱和 ，且继续增添算力不但收益微乎其微 ，甚至可能导致天生质量倒退。
以上发明批注 ，接下来除了在主模子上投入更多参数/算力/数据之外 ，还可以通过Tokenizer的scaling来提升整个天生系统的性能。
这个结论 ，乍一看可能会让人有点转不过弯：什么时间 ，Tokenizer也最先谈scaling了 ？
在大模子语境里 ，“Scaling Law”险些自然只属于主模子——参数更大、数据更多、算力更猛 ，性能就该继续往上走。至于Tokenizer ，则恒久被视作一个“前置 ？椤 ，主打一个够用就行 ，做完重修使命就退场。
但VTP的泛起却改变了这一现实 ，团队体现：
VTP在latents易学性和通用表征学习之间建设起了明确关联 ，从而第一次将Tokenizer作为scaling的主角 ，展现出周全的scaling曲线和扩展偏向
就是说 ，若是Tokenizer只是被用来精准复刻像素 ，那么无论怎么堆算力 ，提升都将很快见顶；而一旦Tokenizer学到的是具备语义结构、对下游更友好的通用表征 ，事情就完全纷歧样了。
好比对整个行业来说 ，由于VTP在Tokenizer层面就已经统一了语义对齐、结构认知和细节表达 ，因此其产出的视觉表征自然具备多使命协同的潜力。
这有点像先把天下翻译成了一种统一、结构化的“视觉语言”。
一旦这套语言确定下来 ，下游无论是明确使命（如分类、检测） ，照旧天生使命（如图像合成、编辑） ，都不再需要各自“重新学怎么形貌这个天下” ，而只是站在统一套底层表达之上 ，做差别的事情。
从这个角度看 ，VTP自然适适用来构建“明确-天生统一模子”。正如团队所言：
Tokenizer层面的统一 ，是更实质的统一
也因此 ，此次VTP的开源就不但单只是提供了一个组件那么简朴了。
其更大的价值或许在于 ，它为整个行业提供了一条新的、且被实验证执行之有用的路径——
在主模子之外 ，Tokenizer同样是一个值得恒久投入、且具备明确scaling回报的焦点环节。
现在 ，VTP的论文和模子权重已经果真 ，下手能力强的朋侪也可以实验体验下：
换一个视觉Tokenizer ，模子性能就能变得纷歧样的feeling（手动狗头）。
【传送门】代码：https://github.com/MiniMax-AI/VTP论文：https://arxiv.org/abs/2512.13687v1模子：https://huggingface.co/collections/MiniMaxAI/vtp
??时势1：3571色影院
??12月28日,国际最新研究：针对性深部脑刺激可增强脊髓损伤后行走能力,
不要畏惧敌手的强盛 ，你的敌手只有自己。
,视频一区二区三区四区五区免费。??12月28日,陈茂波：中国证监会公布的5项新措施有利香港新股市场,
二、双休日、节沐日时代不要私自外出嬉戏 ，若外出必需向家长说明 ，更不要到不摸底和不知水情或较量危险且宜易爆发溺水伤亡事故的地方去玩耍、游泳。不要在河塘边玩耍;不捡落入水中的物品;不去河塘垂纶捞鱼。
,国产美女一级A片在线播放蜜芽,中文字幕在线2020,www.激情乱伦小说.com。??时势2：一级三级黄色网站
??12月28日,依法严惩“直播带假货” 天津法院发布知识产权审判白皮书,
正如吞天雀与另一头至尊生灵所说的那般 ，十万里皆灭 ，山水尽染血 ，生灵哭嚎 ，一派末日情形。
,97免费无码无码人妻视频,免费肏女人网站,欧美美女黄片大全。??12月28日,中超：浙江队主场绝平山东泰山队 黄政宇送乌龙,
“能 ，配上一些宝药 ，一定可以治好的。”小不点将眼光瞄向了肩头上的毛球。
,久久午夜,免费观看黃色A片一级视频能看,黄色小电影网站在线观看。??时势3：,在线欧美
??12月28日,最高法审管办负责人解读审判质量管理指标体系,
剩下的那名头领轻叱 ，掌心发光 ，一片炽盛的芒迸发 ，照耀的村头一片璀璨 ，他动用了符文 ，施展出了火光术。
,99资源在线视频一区二区,一级国产黄色av,性欧美暴力猛交XXXX极品高清。??12月28日,现代化进程中，中国与世界如何“双向奔赴”？,
巨翅横空 ，如一片乌云般压盖满了天穹 ，竟然让那赤火阴晦了许多 ，一对重大的爪子探了下来 ，抓向小红鸟。
,免费福利未满十八勿进,欧美亚洲日韩精品日韩在,激情性爱亚洲性爱。??时势4：免费的看av网站
??12月28日,探寻“电池智造工厂” 科技创新助力民众出行,
冬至阳生春又来 ，天时人事日相催。同事们 ，我院正踏在一代又一代二院人全心修建、基础坚实的新的历史起点上 ，沿着党的十八大指引的航程 ，起劲继续起“办人民知足、政府知足”医院的历史使命和社会责任。让我们继续凝心聚力 ，坚定前行 ，用效果点燃激情的梦想 ，用激情续写生长的篇章 ，共谱x年新的绚烂!
,Rinhee全集免费观看,女人跪下吃j8,日本学生扒裙子打光屁股网站。??12月28日,贵州“最美农村路”助力乡村振兴,
被告人、自诉人和他们的法定署理人 ，不平地方各级人民法院第一审的讯断、裁定 ，有权用书状或者口头向上一级人民法院上诉。被告人的辩护人和近支属 ，经被告人赞成 ，可以提出上诉。
人民法院受理的上诉案件 ，一样平常应当有上诉状正本及副本。
上诉状内容应当包括:第一审讯断书、裁定书的文号和上诉人收到的时间;第一审法院的名称;上诉的请求和理由;提出上诉的时间;上诉人署名或者盖章。若是是被告人的辩护人、近支属经被告人赞成提出上诉的 ，还应当写明提出上诉的人与被告人的关系 ，并应当以被告人作为上诉人。
被告人、自诉人、附带民事诉讼原告人和被告人因誊写上诉状确有难题而口头提出上诉的 ，第一审人民法院应当凭证其所陈述的理由和请求制作笔录 ，由上诉人阅读或者向其宣读后 ，上诉人应当署名或者盖章。
被告人、自诉人、附带民事诉讼的原告人和被告人通过第一审人民法院提出上诉的 ，第一审人民法院应当审查上诉是否切合执法划定。切合执法划定的 ，应当在上诉期满后三日内将上诉状连同档册、证据移送上一级人民法院 ，同时将上诉状副本送交同级人民审查院和对方当事人。
被告人、自诉人、附带民事诉讼的原告人和被告人直接向第二审人民法院提出上诉的 ，第二审人民法院应当在收到上诉状后三日以内将上诉状交第一审人民法院。第一审人民法院应当审查上诉是否切合执法划定。切合执法划定的 ，应当在接到上诉状后三日以内将上诉状连同档册、证据移送上一级人民法院 ，同时将上诉状副本送交同级人民审查院和对方当事人。
被告人、自诉人、附带民事诉讼的原告人和被告人及其法定署理人在上诉限期内要求撤回上诉的 ，应当准许。
被告人、自诉人、附带民事诉讼的原告人和被告人及其法定署理人在上诉期满后要求撤回上诉的 ，应当由第二审人民法院举行审查。若是以为原讯断认定事实和适用执法准确 ，量刑适当 ，应当裁定准许被告人撤回上诉;若是以为原讯断事实不清 ，证据缺乏或者将无罪判为有罪、轻罪重判等 ，应当禁绝许撤回上诉 ，并凭证上诉程序举行审理。
地方各级人民审查院对同级人民法院第一审讯断、裁定的抗诉 ，通过第一审人民法院提交抗诉书。第一审人民法院应当在抗诉期满后三日内将抗诉书连同档册、证据移送上一级人民法院 ，并且将抗诉书副本送交当事人。
执法划定 ，在第二审法院审理案件的历程中 ，上诉人有权撤回上诉。上诉人一经撤诉 ，便损失了上诉权 ，不可再提起上诉 ，并应肩负诉讼用度。
上诉人撤回上诉是行使处分权的体现 ，凭证当事人处分不可违反执法、规则的原则 ，上诉人申请撤诉是否准许 ，由第二审法院依法做出裁定。若是第一审裁判确有过失 ，纵然上诉人要求撤诉 ，也不应批准 ，第二审法院仍要按上诉审程序举行审理 ，以便做出正当的裁判。这是由于设立第二审程序的基础之一就是上级法院的审讯监视权。
?什么情形下股权转让需要审批,亚洲一区二区三区中久无码,A片试看120分钟做受视频,暖暖一区三级片。责编：魏继
审核：张书恒
责编：杨伏山
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
