猫眼影戏
猫眼影戏
薛基辅
手机审查
猫眼影戏记者 王小良 报道Q8X2R7L1T4J5M9B6W3
在 LLM 时代,头脑链( CoT)已成为解锁模子重大推理能力的要害钥匙。然而,CoT 的冗长问题一直困扰着研究者——中心推理办法息争码操作带来了重大的盘算开销和显存占用,严重制约了模子的推理效率。
为相识决这个问题,研究界近期实验了「隐式 CoT」(Implicit CoT),即让模子在内部隐状态中完成推理,而不输出详细的文本。这种要领虽然快,但却是个「黑盒」:我们无法知道模子究竟想了什么,也难以举行监视。
有什么计划既包管推理速率快,又使得历程可剖析,还无需腾贵的预训练?
针对这一挑战,腾讯内容效劳部 BAC 联合清华大学与北京大学,提出了一种名为Render-of-Thought (RoT)的新框架。RoT 的焦点头脑很是巧妙:使用多模态模子(VLM)已有的视觉编码器作为「语义锚点」,将文本推理办法「渲染」为图像的视觉嵌入(Visual Embeddings)。
这种要领不但将推理历程压缩到了致密的视觉潜空间中,还通过视觉渲染让隐式推理历程变得可剖析且可追踪。
论文问题:Render-of-Thought: Rendering Textual Chain-of-Thought as Images for Visual Latent Reasoning论文地点:https://arxiv.org/abs/2601.14750Github 地点:https://github.com/TencentBAC/RoTHuggingface地点:https://huggingface.co/collections/TencentBAC/rot
显式太慢,隐式太黑盒?
RoT 走出第三条路
显式 CoT (Explicit CoT):让模子把每一步推理都写出来,就像学生做数学题写办法一样。天生几百个 Token 的中心办法不但费时,还极其消耗显存。
隐式 CoT (Implicit CoT):模子直接在内部隐状态中举行推理,不输出详细文本。这种方法就像把思索历程扔进了一个「黑箱」,缺乏中心历程的监视。
Render-of-Thought (RoT):另辟蹊径,把「思索」酿成了「作画」。使用视觉信息的高密度特征,将冗长的文本压缩成紧凑的视觉向量。这不但有?裳,还大幅提升了推理速率。
拒绝「黑盒」:
让隐式推理「看得见、摸得着」
RoT 是一种将文本头脑链通过光学渲染(Optical Rendering)和视觉知识蒸馏转化为紧凑视觉表征的新范式。
与以往需要重新学习「推理 Token」的隐式要领差别,RoT 直接使用了现有 VLM(如 Qwen-VL, LLaVA)中冻结的视觉编码器。通过将 LLM 的隐状态与渲染文本的视觉嵌入对齐,RoT 实现了即插即用(Plug-and-Play),无需特另外预训练开销。渲染计划将文本推理办法转化为单行图像,隐空间推理要领通过投影头将 LLM 天生的隐状态与视觉特征对齐。
为了顺应自回归头脑链的序列化建模,研究团队摒弃了牢靠尺寸的图像渲染计划,接纳了单行图像渲染。该战略可以凭证文本长度动态修改所需的图像宽度。别的,单行的渲染方法确保图像的 Patch 严酷凭证从左到右的方法提取,自然地将视觉序列与文本顺序对齐。
移花接木的艺术:
两步训练实现「降维攻击」
RoT 的实现历程主要分为两个阶段,旨在逐步将 LLM 的离散推理能力转化为一连的视觉隐空间推理能力。
阶段一:视觉对齐 (Visual Alignment)
这一阶段冻结了 LLM 和视觉编码器,仅训练一个轻量级的「视觉投影头」(Visual Projection Head)。目的是将 LLM 的文本隐状态映射到由视觉编码器提取的「渲染 CoT 图像」的特征空间上。
别的,在第一阶段中,为了使模子与所提出的推理模式坚持一致,同时对<|img_end|>这一 special token 和谜底的交织熵损失举行了建模:
阶段二:潜在监视微调 (Latent Supervised Fine-Tuning)
在对齐之后,第二阶段通过 LoRA 微调 LLM,并且冻结已经训练对齐的投影头。此时,模子不再天生文本 Token,而是自回归地天生一勾通续的「潜在视觉 Token」(Latent Visual Tokens)。这些 Token 在隐空间中模拟了视觉编码器的输出,最终指导模子解码出准确的文本谜底。
推理与解码战略
推理历程要求模子自主地从一连的潜在推理空间导航到离散的文本解空间。研究团队探索了两种计划:基于 Special Token 的动态终止战略以及牢靠 Token 预算的静态终止战略。
基于 Special Token 的动态终止战略
牢靠 Token 预算的静态终止战略
该战略将潜在头脑链的长度限制为一个牢靠的超参数。抵达这个阈值时,会手动添加<|img_end|>这一 special token,以触发从潜在推理到文本天生的转换。
研究团队在实验中发明,动态终止战略的性能显着低于牢靠 Token 预算战略。这种性能差别可能源于一连潜空间中自我调理阻止机制的内在不稳固性。在天生潜空间推理嵌入时,隐藏状态可能无法始终如一地为终止标记天生高置信度的展望,从而导致过早或延迟的转换,破损推理流程。
别的,接纳牢靠 Token 预算战略时,每个数据集的最优 Token 预算各不相同。在 GSM8k-Aug 数据集上,32 个 Token 能实现最佳性能,而 MATH 数据集则需要 64 个 Token 才华抵达峰值准确率。研究者推测这种差别的泛起是由于 MATH 数据集更具挑战性,需要更长的推理链。
实测数听语言:
推理速率「狂飙」
研究团队在 GSM8k、MATH、SVAMP 等多个数学和逻辑推理基准上对 RoT 举行了普遍测试。实验基于 Qwen3-VL 和 LLaVA-V1.6 等主流架构。
显著的压缩与加速:相比于显式 CoT,RoT 实现了 3-4 倍的 Token 压缩率。在推理速率上,RoT 展现出了重大的优势。例如在 Qwen3-VL-4B 模子上,Pass@1/#L(准确率与长度比)指标显著优于基线。
优于现有的隐式推理要领:与 Coconut、CoLaR 等最新的隐式推理要领相比,RoT 在准确率上体现精彩。特殊是在 MultiArith 数据集上,RoT (Qwen3-VL-4B) 抵达了 97.2% 的准确率,显著优于一律规模下其他隐空间推理计划。
隐空间推理的可剖析性:RoT 的一大亮点在于其可剖析性。由于隐状态被对齐到了视觉空间,可以通过热力争(Heatmap)等来视察模子的「思索历程」。研究团队展示了 MATH 数据集的一个案例?梢钥吹,天生的潜在 Token 泛起出显着的结构化模式,Token 相似度矩阵显示了推理的阶段性。这证实模子并非在随机天生向量,而是在举行有逻辑的隐式推理。
单行渲染 vs. 多行渲染
在 RoT 中,古板的牢靠尺寸的多行渲染会导致文本在图像中频仍换行。关于模子来说,这种换行在视觉空间中引入了不须要的「空间跳跃」,打断了语义的一连性。
为了验证这一点,研究团队比照了「牢靠尺寸的多行渲染图像」与 RoT 文中使用的「单行动态宽度图像」。
如上图所示,单行渲染相比多行渲染收敛更快,同时能够更好方单合语言模子从左到右的序列天生特征。
两阶段训练缺一不可
为了评估渐进式训练战略的效果,研究团队划分对每个阶段举行自力消融实验。
去除第一阶段会导致 MATH 的准确率从 33.2% 降至 22.2%,批注视觉对齐关于构建潜在空间结构以及在重大使命中避免体现坍缩至关主要。同样,扫除第二阶段也会导致性能显著下降,这会导致模子难以从一连的潜在空间中推导出最终谜底。
展望
Render-of-Thought 提出了一种极具远景的「视觉化头脑」范式。它突破了文本模态的限制,使用视觉信息的高密度特征来压缩推理历程。
这项事情不但大幅提升了推理效率,更主要的是,它通过「将头脑渲染为图像」这一直观的想法,为明确大模子神秘的内部隐空间提供了一扇新的窗口。关于未来在端侧装备等资源受限场景下安排强推理模子,RoT 提供了一条切实可行的手艺路径。
??时势1:最新国内精彩视频
??01月26日,联播观察|布局未来产业 总书记多次提到这个关键词, 第一,台内务问题难明。近期“在野”党主导的台立法机构刷新行动,造成“朝野”关系主要、立法机构议事冲突频传;台行政机构提复议案让行政和立法冲突浮上台面,政党纷纷走上陌头诉诸群众,政局动荡、人心担心。,爆操av。
??01月26日,两会好声音,
提到消防,同砚们自然会想到令人毛骨悚然的火灾二字。是的,火,带给人们灼烁,付与人们温暖。可是火也吞噬了无数生命,留下了累累伤痕。我们不会遗忘,_年11月24日破晓,俄罗斯莫斯科人民友谊大学学生宿舍爆发火灾,近200名学生受伤,41名学生殒命,其中,中国留学生受伤46人,殒命11人。这场大火用血淋淋的数字和凄切的价钱,给我们敲响了清静提防的警钟,警醒我们火灾是威胁一样平常学习、生涯清静的主要因素。身处职员麋集的校园的我们,应在脑海中恒久鸣响“119”警铃,提高防火意识和手艺。希望各人能做到“三懂”、“三会”。“三懂”即明确火灾的危险性,增强消防意识;明确火灾形成的原理,不玩火;明确火灾预防,起劲开展消防宣传。“三会”即学会火灾报警要领,学会使用灭火器扑救小火,学会火灾自护自救的要领。要时刻切记消防清静,学习消防知识,消除火灾隐患,防微杜渐,提防未然。
,操逼视频性爱视频免费网站,邹田开发日记,久久久久久国产一级毛片。??时势2:亚洲最好的黄色网址
??01月26日,红色暴雨警告生效 香港4日下午所有学校停课,
在那城中,紧邻城门的地方有一座土山,上面生长着一株植物,高能有四五丈,在城外都能清晰的见到,通体成墨绿色,叶子重大,形如蒲扇。
,久久99草,羞羞漫画看,学生自慰QQ群。??01月26日,澳门中联办举行2024年新春酒会,
列位代表、同志们,我相信,在X乡党委和大会主席团的准确向导下,只要各人同心同德,上下一致,同心协力,与时俱进,一定能够圆满完成大会的各项议程,把这次大会开成一个民主团结、鼓舞人心、振奋精神、开拓进取的大会。
,一级黄色国产网站,国内黄色网A片在线,胸片2024年已更新。??时势3:骚B美女A毛A毛
??01月26日,中新教育丨全国妇联等16部门联合部署2024寒假儿童关爱服务活动,
独角兽遭受了重创,险些被冻裂了,若非小不点用尽全身的神曦滋养其肉身,它必定死在了河中,基础不可能活下来。
,18禁柔术自慰,小马大车妈妈怀孕照片,黄片无内衣。??01月26日,新能源车企开启新春大促“第一响”,
裁判要旨

《******关于行政诉讼证据若干问题的划定》第六条划定:“原告可以提供证实被诉详细行政行为违法的证据。原告提供的证据不建设的,难免去被告对被诉详细行政行为正当性的举证责任。”因此,若原告在行政诉讼中新提交的证据属于确有正当理由且这些证据确实足以对行政行为的正当性造成实质性影响时,则证据可以获得采信并作为人民法院作出裁判的依据。其次,行政诉讼坚持正当性审查的原则,同时为阻止铺张行政及司法资源,《******关于行政诉讼证据若干问题的划定》第五十九条划定:“被告在行政程序中遵照法定程序要求原告提供证据,原告依法应当提供而拒不提供,在诉讼程序中提供的证据,人民法院一样平常不予接纳。”在行政机关作出行政行为的历程中,若是原告保存居心不提交有关证据或者懈怠搜集证据的情形,则人民法院关于原告在行政诉讼中新提交的证据不应予以采信。最后,关于《******关于行政诉讼证据若干问题的划定》第六十条划定的“不可作为认定被诉详细行政行为正当依据”的证据,人民法院不可予以采信。原告或者第三人在诉讼历程中提供的、被告在行政程序中未作为详细行政行为依据的证据属于不可作为认定被诉详细行政行为正当依据的证据情形之一。
裁判文书
中华人民共和国******
行 政 裁 定 书
(2019)最高法行申4324号
再审申请人(一审原告、二审上诉人):肖淑春,女,1945年3月16日出生,汉族。
委托诉讼署理人:肖金山(系肖淑春之子),男,1968年11月15日出生,汉族。
委托诉讼署理人:刘飘,辽宁襄平状师事务所状师。
被申请人(一审被告、二审被上诉人):辽宁省辽阳市人民政府。住所地:辽宁省辽阳市文圣区新城路9号。
法定代表人:王一兵,该市人民政府市长。
第三人:辽宁省辽阳市公安局雄伟区公循分局。住所地:辽宁省辽阳市雄伟区向阳街十四号。
法定代表人:龚立军,该公循分局局长。
第三人:王虹,女,1972年4月8日出生,汉族。
再审申请人肖淑春因诉辽宁省辽阳市人民政府(以下简称辽阳市政府)行政复议决议一案,不平辽宁省高级人民法院(以下简称二审法院)(2018)辽行终631号行政讯断,向本院申请再审。本院受理后,依法由审讯员梁凤云、审讯员张艳、审讯员仲伟珩组成合议庭,对本案举行了审查,现已审查终结。
肖淑春不平辽阳市政府作出的辽市行复决字〔2017〕5号行政复议决议(以下简称5号复议决议),向辽宁省辽阳市中级人民法院(以下简称一审法院)提起诉讼,请求作废5号复议决议。
一审法院以为:《中华人民共和国行政复议法》第三条第三项划定,遵照本法推行行政复议职责的行政机关是行政复议机关。行政复议机关认真法制事情的机构详细办理行政复议事项,推行审查申请行政复议的详细行政行为是否正当与适当,制订行政复议决议。凭证此项划定,行政复议机关对行政行为的审查应当是周全审查,不受申请人申请事实及理由的限制。本案中,辽阳市政府在复议审查历程中,以为雄伟分局仅依据与肖淑春有利害关系的两位证人及肖淑春自己的询问笔萍,在没有其他证据佐证的情形下,作来由罚决议,证据不充分,并无不当。关于肖淑春提出辽阳市政府作出的5号复议决议与其之前针对庞春勇的处分决议作出的辽市行复决字〔2016〕130号《行政复议决议》(以下简称130号复议决议)相矛盾的问题,因130号复议决议审查的是庞春勇的处分决议是否正当的问题,130号复议决议经审理查明部分准确与否并不可作为否定5号复议决议正当性问题的依据。一审法院于2017年12月4日作出(2017)辽10行初13号行政讯断:驳回肖淑春的诉讼请求。
肖淑春不平,提起上诉,请求作废一审讯断。二审法院查明的事实与一审法院认定的事实一致。
二审法院以为:本案的争议焦点是王虹是否殴打肖淑春,并造成其受伤。本案中,雄伟分局对王虹作出行政处分的主要事实依据是事发时在场的肖淑春自己以及其女儿肖春艳和女婿庞春勇的陈述。复议机关以为仅依据与肖淑春及与其有利害关系的两位证人的陈述,在没有其他证据佐证,且三人陈述亦纷歧致的情形下,认定处分决议证据不充分,并无不当。关于肖淑春提出的其在诉讼阶段提交了事发当天的急诊病志和DR诊断报告单,证实其当天受伤事实的上诉主张。肖淑春在事发当天未向作出原行政处分决议的公安机关提交,在行政复议阶段也未向复议机关提交,故复议机关在其时的证据条件下作出的复议决议并无不当。其次,肖淑春所提交的急诊病志虽诊断为左肩外伤,但体检所见内容为“左肩外侧触痛,左肩枢纽外展活动受限”等系其自述内容,且DR诊断报告单诊断意见为:左肩骨质未见确切骨折线。该两份证据难以认定王虹对肖淑春举行殴打,并造成其受伤。故对肖淑春的该项上诉主张,不予支持。关于肖淑春提出雄伟分局对王虹作来由罚决议后,王虹并没有提出行政复媾和行政诉讼,证实其对殴打肖淑春的事实没有异议的上诉主张。王虹对行政处分是否提出行政复媾和行政诉讼,并不可成为证实其殴打肖淑春的证据,且王虹在诉讼阶段也提出其并未殴打肖淑春,故对肖淑春的该项上诉主张,不予支持。关于肖淑春提出的一审中的证人证言并非孤证的上诉主张。报警纪录、被害人陈述、急诊病志和DR诊断报告单的内容均系肖淑春自述,并不可证实肖淑春被王虹殴打受伤的事实,故一审认定肖淑春之女肖春艳的证人证言不可作为认定行政复议决议是否正当的依据并无不当。关于肖淑春提出的辽阳市政府作出的130号复议决议系已经依法证实的事实,可以作为认定王虹殴打其证据的上诉主张。王虹是否殴打肖淑春不是130号复议决议审查的主要事实,该复议决议中表述的内容不可直接作为认定王虹殴打肖淑春的直接证据,故对肖淑春的该项上诉主张,不予支持。据此,二审法院于2018年12月25日作出(2018)辽行终631号讯断:驳回上诉,维持一审讯断。
肖淑春仍不平,向本院申请再审,请求:作废二审讯断,判令辽阳市政府重新作出复议决议。主要的事实与理由为:一、二审认定事实不清。证人证言、报警纪录、急诊病志、DR诊断报告单、当事人陈述以及警员出警等证据,王虹未提出行政复媾和行政诉讼等,能够证实王虹殴打自己的事实,且该事实经辽阳市政府作出的130号复议决议予以认定。
本院以为:本案的争议焦点为,肖淑春在诉讼中提交的证据应否采信及5号复议决议是否违反榨取倒运变换原则等问题。
关于肖淑春在诉讼阶段提交的事发当天的急诊病志、DR诊断报告单等应否采信问题。首先,《******关于行政诉讼证据若干问题的划定》第六条划定:“原告可以提供证实被诉详细行政行为违法的证据。原告提供的证据不建设的,难免去被告对被诉详细行政行为正当性的举证责任。”因此,若原告在行政诉讼中新提交的证据属于确有正当理由且这些证据确实足以对行政行为的正当性造成实质性影响时,则证据可以获得采信并作为人民法院作出裁判的依据。其次,行政诉讼坚持正当性审查的原则,同时为阻止铺张行政及司法资源,《******关于行政诉讼证据若干问题的划定》第五十九条划定:“被告在行政程序中遵照法定程序要求原告提供证据,原告依法应当提供而拒不提供,在诉讼程序中提供的证据,人民法院一样平常不予接纳。”在行政机关作出行政行为的历程中,若是原告保存居心不提交有关证据或者懈怠搜集证据的情形,则人民法院关于原告在行政诉讼中新提交的证据不应予以采信。最后,关于《******关于行政诉讼证据若干问题的划定》第六十条划定的“不可作为认定被诉详细行政行为正当依据”的证据,人民法院不可予以采信。原告或者第三人在诉讼历程中提供的、被告在行政程序中未作为详细行政行为依据的证据属于不可作为认定被诉详细行政行为正当依据的证据情形之一。本案中,就王虹是否殴打肖淑春这一事实而言,肖淑春认可雄伟分局作出的处分决议中的认定,即主张王虹殴打了肖淑春,肖淑春在诉讼中提交新的证据也是为了证实此事实。鉴于雄伟分局在行政程序中并未将肖淑春提交的事发当天的急诊病志、DR诊断报告单等作为处分决议的依据,肖淑春在行政复议阶段也未向复议机关提交,因此以上证据不可作为认定雄伟分局作出的处分决议认定事实清晰的依据。
关于5号复议决议认定雄伟分局作出的处分决议保存事实不清、证据缺乏是否准确的问题。雄伟分局作出的处分决议载明其作出的依据是对王虹、庞春勇的询问笔萍及证人证言等证据。关于处分决议的作出依据是否充分问题,首先,一审法院审查后已认定作为处分依据的证人证言系与肖淑春有利害关系的两位证人出具。其次,5号复议决议载明雄伟分局在复议程序中自述:庞春勇、肖春艳和肖淑春三人对现场情形的陈述纷歧致;出警当日,民警在询问详细情形的历程中,并未有人提出肖淑春被打一事。最后,王虹在复议程序中自述:其其时怀有身孕,未殴打肖淑春;其被打后实时打110报警并入院治疗。综合以上事实,辽阳市政府以为,在王虹不认可殴打肖淑春的情形下,雄伟分局仅依据其在处分决议中载明的依据作出王虹用高跟鞋和石头扔肖淑春和肖春艳的认定,并据此作出给予王虹拘留八日并?钊僭拇Ψ志鲆樗谰莸氖率挡磺濉⒅ぞ萑狈,并无显着不当。别的,肖淑春提出的辽阳市政府作出的130号复议决议可以证实王虹保存殴打行为等问题,一、二审法院论理并无显着不当,本院予以认可。
关于辽阳市政府在王虹未申请行政复议的情形下能否作废处分决议问题。《中华人民共和国行政复议法实验条例》第五十一条划定:“行政复议机关在申请人的行政复议请求规模内,不得作出对申请人更为倒运的行政复议决议。”该条划定了行政复议榨取倒运变换原则。由于复议申请人申请行政复议,是为了作废对己倒运的行政行为。若是行政复议机关在审查行政行为是否正当或适当的历程中,作出对复议申请人较原裁决更为倒运的决议,那么就会违反复议申请人提起行政救援的本意。行政复议榨取倒运变换原则体现了“申辩不加重”的本意,即要求行政复议机关不得因当事人申辩而加重处分。可是行政复议榨取倒运变换原则的适用也保存破例情形。在行政处分案件中,扫除榨取倒运变换原则适用包括但不限于以下情形:一是被损害人及被处分人同为复议申请人。此类情形中被损害人、被处分人会昭示请求作废处分决议;二是被损害人或被处分人申请了行政复议,另一方作为第三人在复议程序中保存有意识的默示申请作废处分决议的行为。本案中,肖淑春因不平雄伟分局对王虹所作的处分决议而申请复议,被处分人王虹系复议程序中的第三人。王虹虽然并非复议申请人,但其在复议程序中明确主张未殴打肖淑春、肖淑春保存作伪证等情形,因此可以认定王虹并不认可雄伟分局作出的处分决议,且已提出申辩,切合默示申请作废处分决议的要件。在此情形下,辽阳市政府经审理后,决议作废处分决议,并未违反榨取倒运变换原则。
综上,肖淑春的再审申请不切合《中华人民共和国行政诉讼法》第九十一条划定的情形。本院遵照《******关于适用〈中华人民共和国行政诉讼法〉的诠释》第一百一十六条第二款之划定,裁定如下:
驳回再审申请人肖淑春的再审申请。
审讯长 梁凤云
审讯员 张 艳
审讯员 仲伟珩
二〇一九年十仲春二十四日
法官助理刘均博
书记员宫傲
,夫妻交换乱交视频,蜜桃色区,仙玉足丝泄欲(h)。??时势4:机机对机机30分钟视频
??01月26日,中新教育丨教育部部署加强中小学人工智能教育,
石云峰一阵犹豫,最后咬了咬牙,道:“将离火牛魔的赤红宝角尚有恶魔猿的手臂准备好,放血!”
,国产无码又黄you,99热国产这里只有精品久久,欧美一级欧美一级A片。??01月26日,中新人物|游本昌:《繁花》过后,济公不再仅仅是济公,
“咿呀!”小不点扭捏,跟适才小老虎似的样子判若两人,这是他第一次这样拼命,主要是见到族中的几位阿叔差点被人射死,而对方还这么蛮不讲理,以是才急了,前往拼斗。
,少妇A片一级,原神芙宁娜裸体 开腿,无码区一区二。责编:苏高龙
审核:朱芳雨
责编:钱勇
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1