猫眼影戏
 |
|
猫眼影戏
张璐
手机审查
猫眼影戏记者 沈葆桢 报道Q8X2R7L1T4J5M9B6W3
闻乐 发自 凹非寺量子位 | 公众号 QbitAI
256K文本预加载提速超50%，还解锁了1M上下文窗口。
美团龙猫LongCat系列新年出招，宣布全新希罕注重力机制LoZA（LongCat ZigZag Attention）
新手艺集中火力，重点解决长文本使命的明确、算力难题。
相比于LongCat系列之前的全注重力MLA机制，LoZA只改了一半的焦点？。
但模子长文本能力从256K扩展到1M，解码速率还快了不少。
甚至比同类型的Qwen-3模子体现还要好。
接下来看详细计划。
怎样做到 “只算要害部分” ？
全注重力机制的算力瓶颈在于平方级的盘算重漂后O (L?)，这导致模子在处置惩罚长文本使命时对显卡要求高，还会泛起推理延迟问题。
LoZA的焦点思绪是专注于处置惩罚主要的内容，不主要的部分少花实力。
作为LongCat系列的焦点手艺升级，LoZA主要是在原来的MLA机制上做刷新。
详细分两步。
首先，给模子里的多头潜在注重力？镸LA做一个全局“筛查”，找出哪些？榭梢员凰⑿。
在原来的MLA架构中，每个MLA？槎际谴χ贸头Ｗ⒅亓Φ慕沟愕ノ，现在的新计划是给每个？榕湟桓隹裳叭ㄖ卅。
α值越高，说明该？槎钊⒅亓ε趟阍揭，一旦简化就容易丢性能；α值越低就意味着？榈目商婊恍郧，即便换成更轻量的盘算方法，对整体的明确能力影响也不大。
在训练历程中，团队冻结模子其他参数，只更新α的梯度，通过这种专门的校准训练让模子自主学习α值，然后按α值从小到大排序，找出那些希罕化后不影响性能的MLA？，也就是后续的优化目的。
随后，将找出的50%低性能？榛怀筛嵊牧魇较：弊⒅亓SA
这样就形成了一种交织结构，团队将这种结构称为ZigZag
SSA的盘算重漂后是线性的O (L·S)（S为希罕窗口巨细，牢靠为1024Token），远低于全注重力的O (L?)。
以是这种交织结构让模子既不会由于太过简化而变笨，又能把盘算重漂后降到线性级别，省不少算力。
为了让模子在关注局部细节的基础上不忽略整体逻辑，LoZA还设计了一个1024Token希罕窗口
每个窗口里有1个认真抓整体关联的“全局块”和7个认真盯周围内容的“局部块”，单块巨细为128Token。
这样的刷新也不需要重新训练，在中期训练阶段就能完成，本钱也较量低。
从测试数据来看，LoZA的体现也不错，主要是“更快”的同时“没变笨”
速率上，要是处置惩罚128K上下文，解码速率直接比原来快10倍；
256K上下文，模子预加载（读文本历程）速率快了50%，后续解码阶段天生内容时还能省30%的算力，相当于同样的硬件，现在能同时处置惩罚两倍多的长文本使命。
这也让LongCat-Flash-Exp解锁了1M上下文窗口。
性能上，LoZA也没由于简化而缩水。
处置惩罚回覆问题、写代码这类一样平常使命时，和原版LongCat-Flash持平；处置惩罚长文本使命时，体现反而更好。
好比在MRCR测试里，反超了同样能处置惩罚1M长文本的Qwen-3模子，还更稳固。
接下来，团队还妄想让LoZA支持动态希罕比例
随笔本场景自动多用全注重力包管精度，长文本场景自动增添希罕？樘嵘，甚至适配多模态模子处置惩罚长视频、长图文内容。
好一个新年新气象！
论文地点：https://www.alphaxiv.org/abs/2512.23966
— 完 —
??时势1：男女一区二区国产在线观看
??01月14日,加拿大统促团体强调坚决反对“台独”图谋 反对挟洋谋“独”,
同砚们你们可曾知道，也许由于你课间随意在走道中奔驰，也许由于你把楼梯的扶手当成滑滑梯，也许你随手扔出的一个小石子、也许你小小的一个开顽笑，我们的校园就多了一份危险，少一份安定。
,AA视频免费看。??01月14日,中新教育丨教育部2025年继续实施退役大学生士兵专项硕士研究生招生计划,
它并一直步，体态一晃就到了另一人的近前，如一道玄色闪电般迅疾，让人反应不过来。
,[汉化版]全彩漫画免费阅读kataokasan,不卡视频强奸乱伦,欧美性爱看看。??时势2：拔萝卜 自慰 巨乳
??01月14日,（新春走基层）中越边境上的东兴市站首迎春运“大考”,
第三，要有正气。一个有正气的村干部，我的明确就是八个字，公正公正，清洁做事。首先说公正公正。一小我私家在一个地方是不是公正公正的，在老黎民心里总能称出斤两来。出自于事情的原来面目做判断就是公正公正道。相反，把黑说成白，把鹿说出马，这就不公正公正。在农村，公正公正显得尤为主要；馀┐迕，首先就是要讲公正公正，不然群众不平气。要行得端走得正，不可“见人说人话，见鬼说鬼话，见到阎王乱语言”，要经得起历史和时间的推敲。一小我私家走出去堂堂正正，谁都尊重你，哪怕你职位卑微;一小我私家畏畏缩缩，邪里邪气，位再高人家也不会尊重你。再说清洁做事。村干部天天跟群众打交道，清廉不清廉，群众最清晰。作为村干部，手中都有一些权力，我们要珍惜这些权力，要做到事情以高标准为目的，生涯以下限为标准，该获得的纷歧建都要，不应获得的决不伸手去捞。只有清廉才华有正气。“廉生威、公生明”，靠自己的本事赚钱，靠自己的本事用饭，不贪污未几占，群众才会服你。
,国产一区二区福利在线导航,日韩三网站,中国黄色网站A片。??01月14日,上海台联举办“保钓统一运动”史料展,
各人好!今天，各人共聚一堂，挥别20xx，畅想20xx。首先，我谨代表广州*集团有限公司全体同仁，向来自海内外的经销商朋侪们体现热烈的接待!向获得表扬的经销商朋侪体现热烈的祝贺!
,国产国产人免费人成免费视频在线,铃仙洞窟探险2.0免费下载正版,国产精品一区二区三区精彩。??时势3：一级黄色片日本小小美女免费
??01月14日,中央广播电视总台蛇年春晚吉祥物“巳升升”亮相,
清静下来后，小不点一小我私家坐在湖边，抱着双膝，再次最先发呆，大眼望着碧蓝的湖水，很长时间都没有动一下。
,中国黄色视频在线观看,www.coocloud.cn,糖心视传媒一区。??01月14日,【小新的Vlog】打卡正定小商品夜市 感受“梦中情市”魅力,
凭科技生长
,国产激情 专区 在线,一区欧美性爱视频,校服太薄没带罩子c了一节课视频。??时势4：midv中文版官网入口最新版本更新内容
??01月14日,走进瑙鲁 一眼看尽世界最小岛国,
“轰！”
,黄站免费视频,2019最新久国产久视频精,精品丝袜国产自在线拍婷婷五月。??01月14日,国家体育总局局长：2023年我国人均体育场地面积达2.89平方米,
小不点心中很温暖，族长爷爷担心了，见他久不回去，这是要拼老命来了。
,国产黃色A片人人看人人爽,国模一区二区三区私拍视频大胆,性直播在线观看黄网站。责编：樊海旭
审核：蓝雅歌
责编：张书宝
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
鲁ICP备09023866号-1 鲁公网安备 37010202000111号
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
