猫眼影戏
 |
|
猫眼影戏
郑佾琪
手机审查
猫眼影戏记者 汪震国 报道Q8X2R7L1T4J5M9B6W3
闻乐 发自 凹非寺量子位 | 公众号 QbitAI
256K文本预加载提速超50%，还解锁了1M上下文窗口。
美团龙猫LongCat系列新年出招，宣布全新希罕注重力机制LoZA（LongCat ZigZag Attention）
新手艺集中火力，重点解决长文本使命的明确、算力难题。
相比于LongCat系列之前的全注重力MLA机制，LoZA只改了一半的焦点？。
但模子长文本能力从256K扩展到1M，解码速率还快了不少。
甚至比同类型的Qwen-3模子体现还要好。
接下来看详细计划。
怎样做到 “只算要害部分” ？
全注重力机制的算力瓶颈在于平方级的盘算重漂后O (L?)，这导致模子在处置惩罚长文本使命时对显卡要求高，还会泛起推理延迟问题。
LoZA的焦点思绪是专注于处置惩罚主要的内容，不主要的部分少花实力。
作为LongCat系列的焦点手艺升级，LoZA主要是在原来的MLA机制上做刷新。
详细分两步。
首先，给模子里的多头潜在注重力？镸LA做一个全局“筛查”，找出哪些？榭梢员凰⑿。
在原来的MLA架构中，每个MLA？槎际谴χ贸头Ｗ⒅亓Φ慕沟愕ノ，现在的新计划是给每个？榕湟桓隹裳叭ㄖ卅。
α值越高，说明该？槎钊⒅亓ε趟阍揭，一旦简化就容易丢性能；α值越低就意味着？榈目商婊恍郧，即便换成更轻量的盘算方法，对整体的明确能力影响也不大。
在训练历程中，团队冻结模子其他参数，只更新α的梯度，通过这种专门的校准训练让模子自主学习α值，然后按α值从小到大排序，找出那些希罕化后不影响性能的MLA？，也就是后续的优化目的。
随后，将找出的50%低性能？榛怀筛嵊牧魇较：弊⒅亓SA
这样就形成了一种交织结构，团队将这种结构称为ZigZag
SSA的盘算重漂后是线性的O (L·S)（S为希罕窗口巨细，牢靠为1024Token），远低于全注重力的O (L?)。
以是这种交织结构让模子既不会由于太过简化而变笨，又能把盘算重漂后降到线性级别，省不少算力。
为了让模子在关注局部细节的基础上不忽略整体逻辑，LoZA还设计了一个1024Token希罕窗口
每个窗口里有1个认真抓整体关联的“全局块”和7个认真盯周围内容的“局部块”，单块巨细为128Token。
这样的刷新也不需要重新训练，在中期训练阶段就能完成，本钱也较量低。
从测试数据来看，LoZA的体现也不错，主要是“更快”的同时“没变笨”
速率上，要是处置惩罚128K上下文，解码速率直接比原来快10倍；
256K上下文，模子预加载（读文本历程）速率快了50%，后续解码阶段天生内容时还能省30%的算力，相当于同样的硬件，现在能同时处置惩罚两倍多的长文本使命。
这也让LongCat-Flash-Exp解锁了1M上下文窗口。
性能上，LoZA也没由于简化而缩水。
处置惩罚回覆问题、写代码这类一样平常使命时，和原版LongCat-Flash持平；处置惩罚长文本使命时，体现反而更好。
好比在MRCR测试里，反超了同样能处置惩罚1M长文本的Qwen-3模子，还更稳固。
接下来，团队还妄想让LoZA支持动态希罕比例
随笔本场景自动多用全注重力包管精度，长文本场景自动增添希罕？樘嵘，甚至适配多模态模子处置惩罚长视频、长图文内容。
好一个新年新气象！
论文地点：https://www.alphaxiv.org/abs/2512.23966
— 完 —
??时势1：人人人人人干
??01月16日,在发展中保障和改善民生,
小不点一巴掌拍去，其他人都被震飞了，骨骼断裂，唯有此人虽然被这种巨力撞的翻飞，但紧接着又翻身爬了起来。
,韩国三级片地址。??01月16日,百位专家将合力编撰《特应性皮炎365问》,
??时势2：囯产一级毛片国语A片厂
??01月16日,土耳其大国民议会通过《反恐联合宣言》,
“那可是一头金色的朱厌，说未必能帮上小不点大忙。”
,亚洲毛片黄片免费观看,免费观看黄色网站一区二区,欧美色欧美。??01月16日,借“手机口”助施诈骗者获刑：勿成电诈“工具人”,
四是坚持投资主体多元化。实验投资主体多元化是解决资金问题的主要途径。要坚持通过政府、整体、小我私家一起上，内资外资一起投，修建多元化的投资名堂。把具有较好经济效益的城建项目推向市场，通过专业融资机构和资源市场吸引社会资笔票接投资，接纳项目打捆方法，扩大银行贷款。要充分验展财务资金投入的导向、树模和催化作用，把有限的财务资金用在公用设施建设领域等要害处。要进一步放宽民间资源准入领域，通常国家没有明令榨取的都允许其加入谋划，吸引更多民间资源进入市政设施建设，变“有几多线办几多事”为“办几多事筹几多钱”，加速推进都会建设。
,免费91一级片,国产精品呻吟,毛片_级24小时播放站。??时势3：XXXX在线观看视频
??01月16日,云南罗平：深耕小黄姜全产业链 提升品牌竞争力,
一是：从今年的暑假最先，我们先后开展了“见贤思齐，争做文明小天使”六个一实践活动——文明小天使结交行动;文明小天使清洁家园活动;文明小天使爱心转达活动;文明小天使念书活动;文明小天使尊师行动;文明小天使小手牵大手行动。我们每一位同砚都在班主任先生的指导下将自己争做文明小天使的活动情形作了认真的纪录，并在开学初所有交给了学校。
,国产综合精品,日韩国产欧美精品,麻豆国产原创福利。??01月16日,反政府武装分子袭击刚果（金）东部地区 至少10人丧生,
(七)增强档案干步队伍建设
,一级黄色国产A片,亚洲精品限制第一页屁屁影院,亚洲日韩激情无码一区国产。??时势4：97精品在线
??01月16日,新疆夏尔希里自然保护区风光秀美,
显然，他们早有准备，每一小我私家都带着兽皮袋，迅速翻开，战战兢兢的将凶禽的卵放了进去，共有三枚水盆大的碧玉蛋，除却小不点外另外三人一人背起一个。
,海角网色情网址大全,高清无码视频二区免费播放,爱综合国产。??01月16日,中国北疆最繁忙机场一月份运送旅客229万人次 创历史新高,
时光荏苒，逝者如斯，我们离别了收获的六月，离别了昨日的自满，重新背起沉甸甸的行囊，迎着喷薄的向阳，沐浴着清新的晓风，怀揣着心中的梦想与期待，再次踏上新的征程。
,中文毛片无遮挡免费视频,格温同人免费漫画怎么看,免费观看AⅤ。【四川泸州：榕山长江大桥合龙】
责编：黄晓光
审核：考夫曼
责编：新藤义孝
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
