代码泄密！DeepSeek下一代“王炸”模子架构曝光

智工具作者江宇编辑冰倩

智工具1月21日报道，DeepSeek-R1宣布一周年之际，来自DeepSeek的神秘新模子“MODEL1”悄然现身GitHub代码库。

多位社区开发者推测，MODEL1很可能正是DeepSeek内测中的V3最终版本（V4模子），也有人推测它可能代表一个完全自力于V系列的新模子。

▲外洋开发者在X平台讨论MODEL1身份

克日，DeepSeek向其焦点推理内核FlashMLA推送了一系列更新，而在这些提交中，一个此前从未果真亮相的模子命名引发了社区的高度关注——MODEL1。

▲DeepSeek代码库泛起MODEL1相关（图源：X）

这一名称不但泛起在SM90架构相关的.cu内核实例化文件中，还贯串在多个针对FP8希罕解码路径的模板界说与内存结构注释里。

更要害的是，据外洋开发者推测，MODEL1的背后将是一整套新的推理机制、算子结构与底层内存设置，会与DeepSeek现有V3.2模子泛起出完全差别的手艺路径。

在相关代码文件中可以看到，MODEL1被用于焦点解码函数的多个实例中，显式适配了头维度为64和128的场景，并专门安排在SM90和SM100架构上。

▲DeepSeek FlashMLA源码截图（图源：GItHub）

代码中多处挪用了“ModelType::MODEL1”，与其对应的尚有一套自力的长期化内核。这些文件与V32版本的长期化内核文件并行保存，这显示出DeepSeek或许已为该模子设计了与V3系列完全差别的编译路径与执行逻辑。

▲DeepSeek FlashMLA源码文件树（图源：GItHub）

更值得注重的是，在代码中，有一条特殊注释写道：关于F3架构（即SM90平台）下的MODEL1模子，其KV缓存的内存stride必需是576B的整数倍。

▲外洋网友推文截图（现在该条注释已于代码库内删除）

这一设置区别于V3.2的656B，体现着MODEL1对底层内存对齐和调理有更为严酷的要求，可能与其更重大的运行时行为与动态缓存机制有关。

一位外洋网友也对这部分代码举行了深入解读，他以为，MODEL1在整体结构上展现出更强的实验性特征，支持动态Top-K希罕推理逻辑，还引入了特另外KV缓存区。

▲外洋开发者的剖析（图源：X）

前者通过引入一个可变的topk_length指针，允许模子在推理时凭证token或请求动态决议加入盘算的key数目，提升了盘算资源的细腻调理能力；后者则通过extra_kv缓冲区，提供了将系统提醒与用户上下文疏散存储的可能，为Agent架构或多段上下文场景提供支持。

据社区开发者剖析，MODEL1在同步逻辑与界线控制上可能比V3.2越发重大。其中RoPE与NoPE维度在双GEMM运算中耦合更紧，可能意味着其在位置编码与张量路径调理上做出了显著调解。

剖析还提到，MODEL1引入了运行时界线检查机制，旨在规避动态Top-K推理中潜在的不法内存会见。

别的，只管官方注释中标明MODEL1的stride应为576B，但据社区开发者基于代码结构估算，着实际内存分派逻辑可能靠近584B。这种细微差别被以为反应出该分支仍处于调试或快速迭代阶段。

在更早的1月9日，外媒援引知情人士称，DeepSeek将于2月中旬，也就是春节前后宣布其下一代模子，主打编程能力，并在内部测试中已经在多个基准上逾越了Claude与GPT系列。

连系现在模子文件结构已笼罩64和128两个头维度、FP8希罕解码路径已完成适配、内存规范已强制界说等迹象来看，MODEL1很可能已靠近训练完成或推理安排阶段，正期待最终的权重冻结和测试验证。

在外洋社交平台上，不少用户对MODEL1的曝光反应热烈。一位用户奚落道：“我已经能闻声‘新模子将带来99.97%本钱下降’了。”

而另一位开发者则以为，若是DeepSeek再次开放权重，势必将对闭源巨头形成压力，推动前沿模子进一步走向开放。

恰逢DeepSeek R1宣布一周年，Hugging Face官方博客也宣布了特殊文章《One Year Since the “DeepSeek Moment”》，系统回首了已往一年中国开源社区的整体爆发，明确提及DeepSeek的开源战略已从一次事务演化为生态战略。

▲Hugging Face官方博客：One Year Since the “DeepSeek Moment”

文章称，R1模子的开源不但降低了推理手艺、生产安排与心理三个门槛，更推动了海内公司在开源偏向上形成非协同但高度一致的战略走向。

从百度、字节跳动到月之暗面、智谱AI，各大机构在已往一年中陆续加入Hugging Face并宣布高质量模子，在社区下载、点赞与引用榜单上一再登顶。

与此同时，越来越多西方开源模子的底座也最先使用DeepSeek系列做微调，DeepSeek-V3更是成为Cogito v2.1等外洋模子的底层基座。

结语：一年之后，DeepSeek再次站在开源演进的起点

现在，距离R1宣布仅一年，DeepSeek的“MODEL1”很有可能在系统架构、执行路径与推理机制上展现出周全逾越V3.2的能力。

若是接下来如听说所述在春节前后正式宣布，DeepSeek或许将再次改写海内开源名堂，也可能为全球前沿开源模子树立新的标杆。

《日本在线观看网址视频》，《Q8X2R7L1T4J5M9B6W3》

金志垣换脸

“97人人爱”

缅甸56分15钞原版视频

……

01月29日

“被玩坏的严格高冷老师在线观看”重庆设立“喝酒技术交流中心”？

↓↓↓

微博竞燃之夜直播，是热火附加赛战胜公牛晋级季后赛

01月29日，公安部：电子行驶证将于7月1日起在全国60个城市先行试点，国产高级黄色视频，欧洲AAAAA性受，美女扒开尿囗给男人爽的视频网站，黄色片精品在线播放

01月29日，（两会速递）云南省委书记：带污染的项目，再大也不要，亚洲三级黄色性视频，i搞在线，深圳18里米男模大战玄兵，99黄色在线观看

01月29日，韩国警方就尹锡悦涉“内乱罪”启动调查，.com在线黄片www.，欧美性爱在线观看短视频，国产精选A片网站，一级性交毛片

01月29日，去年北京新开业大型商业设施240万平方米消费环境持续优化，免费在线黄色视频官网，国产igao为爱做激情在线观看，人人爽人人爽人人爽人人片av，黄色网址久久

01月29日，《习近平关于健康中国论述摘编》出版发行，影音先锋5566最新地域名，JXX的最新版本，纪湘一战四原版视频，黑逼淫模网

01月29日，“新中式”旅游持续升温 “国潮”澎湃中彰显文化自信，三级黄色美女网站，igao视频网在线观看网址，在线免费大学生黄色不卡，人妖自慰

01月29日，通讯：“我在马东铁守护家乡环境”，美女脱内，温迪流眼泪翻白眼咬铁球，欧洲91AV小视频，无遮挡又黄又大又粗动图

01月29日，“2024爱沈阳”5大主题300余项活动开启沈阳文旅“春的乐章”，下载黄色性感交片，欧美一级A片黑人一级A片，欧美福利视频呦呦，嗯啊嗯啊看黄片www

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

k1体育麻将胡了

下载APP

所有

代码泄密！DeepSeek下一代“王炸”模子架构曝光

热门视频