代码泄密！DeepSeek下一代“王炸”模子架构曝光

智工具作者江宇编辑冰倩

智工具1月21日报道，DeepSeek-R1宣布一周年之际，来自DeepSeek的神秘新模子“MODEL1”悄然现身GitHub代码库。

多位社区开发者推测，MODEL1很可能正是DeepSeek内测中的V3最终版本（V4模子），也有人推测它可能代表一个完全自力于V系列的新模子。

▲外洋开发者在X平台讨论MODEL1身份

克日，DeepSeek向其焦点推理内核FlashMLA推送了一系列更新，而在这些提交中，一个此前从未果真亮相的模子命名引发了社区的高度关注——MODEL1。

▲DeepSeek代码库泛起MODEL1相关（图源：X）

这一名称不但泛起在SM90架构相关的.cu内核实例化文件中，还贯串在多个针对FP8希罕解码路径的模板界说与内存结构注释里。

更要害的是，据外洋开发者推测，MODEL1的背后将是一整套新的推理机制、算子结构与底层内存设置，会与DeepSeek现有V3.2模子泛起出完全差别的手艺路径。

在相关代码文件中可以看到，MODEL1被用于焦点解码函数的多个实例中，显式适配了头维度为64和128的场景，并专门安排在SM90和SM100架构上。

▲DeepSeek FlashMLA源码截图（图源：GItHub）

代码中多处挪用了“ModelType::MODEL1”，与其对应的尚有一套自力的长期化内核。这些文件与V32版本的长期化内核文件并行保存，这显示出DeepSeek或许已为该模子设计了与V3系列完全差别的编译路径与执行逻辑。

▲DeepSeek FlashMLA源码文件树（图源：GItHub）

更值得注重的是，在代码中，有一条特殊注释写道：关于F3架构（即SM90平台）下的MODEL1模子，其KV缓存的内存stride必需是576B的整数倍。

▲外洋网友推文截图（现在该条注释已于代码库内删除）

这一设置区别于V3.2的656B，体现着MODEL1对底层内存对齐和调理有更为严酷的要求，可能与其更重大的运行时行为与动态缓存机制有关。

一位外洋网友也对这部分代码举行了深入解读，他以为，MODEL1在整体结构上展现出更强的实验性特征，支持动态Top-K希罕推理逻辑，还引入了特另外KV缓存区。

▲外洋开发者的剖析（图源：X）

前者通过引入一个可变的topk_length指针，允许模子在推理时凭证token或请求动态决议加入盘算的key数目，提升了盘算资源的细腻调理能力；后者则通过extra_kv缓冲区，提供了将系统提醒与用户上下文疏散存储的可能，为Agent架构或多段上下文场景提供支持。

据社区开发者剖析，MODEL1在同步逻辑与界线控制上可能比V3.2越发重大。其中RoPE与NoPE维度在双GEMM运算中耦合更紧，可能意味着其在位置编码与张量路径调理上做出了显著调解。

剖析还提到，MODEL1引入了运行时界线检查机制，旨在规避动态Top-K推理中潜在的不法内存会见。

别的，只管官方注释中标明MODEL1的stride应为576B，但据社区开发者基于代码结构估算，着实际内存分派逻辑可能靠近584B。这种细微差别被以为反应出该分支仍处于调试或快速迭代阶段。

在更早的1月9日，外媒援引知情人士称，DeepSeek将于2月中旬，也就是春节前后宣布其下一代模子，主打编程能力，并在内部测试中已经在多个基准上逾越了Claude与GPT系列。

连系现在模子文件结构已笼罩64和128两个头维度、FP8希罕解码路径已完成适配、内存规范已强制界说等迹象来看，MODEL1很可能已靠近训练完成或推理安排阶段，正期待最终的权重冻结和测试验证。

在外洋社交平台上，不少用户对MODEL1的曝光反应热烈。一位用户奚落道：“我已经能闻声‘新模子将带来99.97%本钱下降’了。”

而另一位开发者则以为，若是DeepSeek再次开放权重，势必将对闭源巨头形成压力，推动前沿模子进一步走向开放。

恰逢DeepSeek R1宣布一周年，Hugging Face官方博客也宣布了特殊文章《One Year Since the “DeepSeek Moment”》，系统回首了已往一年中国开源社区的整体爆发，明确提及DeepSeek的开源战略已从一次事务演化为生态战略。

▲Hugging Face官方博客：One Year Since the “DeepSeek Moment”

文章称，R1模子的开源不但降低了推理手艺、生产安排与心理三个门槛，更推动了海内公司在开源偏向上形成非协同但高度一致的战略走向。

从百度、字节跳动到月之暗面、智谱AI，各大机构在已往一年中陆续加入Hugging Face并宣布高质量模子，在社区下载、点赞与引用榜单上一再登顶。

与此同时，越来越多西方开源模子的底座也最先使用DeepSeek系列做微调，DeepSeek-V3更是成为Cogito v2.1等外洋模子的底层基座。

结语：一年之后，DeepSeek再次站在开源演进的起点

现在，距离R1宣布仅一年，DeepSeek的“MODEL1”很有可能在系统架构、执行路径与推理机制上展现出周全逾越V3.2的能力。

若是接下来如听说所述在春节前后正式宣布，DeepSeek或许将再次改写海内开源名堂，也可能为全球前沿开源模子树立新的标杆。

《www.淫淫.con》，《Q8X2R7L1T4J5M9B6W3》

一级片网站在线观看

“一级黄在线观看”

人人色人人模

……

01月29日

“日本美女大屁股肥肥逼操的爽歪歪”易烊千玺阎青妤合照

↓↓↓

郑钦文打进东京站决赛，是中印如何达成边境问题解决方案？

01月29日，“2024上海夜生活节”电竞文化活动无畏契约电竞派对开启，打屁股网站脱裤子打屁股，中文字幕第一页一区二区，免费黄色视频人片，askulia馃崸

01月29日，今年中国将强化教育医疗等民生领域价格执法检查，黄色视频免费网站在线看，大胸女被c 黄秘紫薇，fuck xxxl videos，欧美JiZZ18性欧美

01月29日，跟着总书记探寻中华文明丨汉风汉韵源远流长，超碰在线cao，宝贝～腿打开一点我轻一点视频，黄色視頻在线觀看視頻，3d 无尽动漫游戏

01月29日，司法部：进一步丰富立法形式，探索建立立法快速响应机制，西西大胆午夜欧美视频，日本三级黄在线看，一区视频资源在线观看视频，女人露逼视频

01月29日，【新春纪事】山东菏泽：年夜饭预订火爆 “龙元素”菜品受热捧，国产国产在线视频，一级AAA特黄AV片免费观看，看人妖做爱，哪个网站可以看欧美性爱

01月29日，川陕交界处的“云上仙境”：龙头山雪景如画，色一情一乱一伦一小视频，在线视频观看中文字幕，有逼阁，无遮挡网站

01月29日，浙江绍兴考古发现东汉时期“山阴”地名遗物，国内一区不卡自拍视频，1v7个精神小伙视频播放在哪里，芙宁娜被草到失禁颤抖求饶，快猫lanzou

01月29日，新疆阿克苏地区乌什县发生7.1级地震：已出现房屋倒塌情况一被压儿童成功获救，中午字幕中文字幕在线中777，久久综合色妞网，人妻初尝黑人巨鞭在线视频，国产精品无码亚洲精品2021

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

k1体育麻将胡了

下载APP

所有

代码泄密！DeepSeek下一代“王炸”模子架构曝光

热门视频