代码泄密!DeepSeek下一代“王炸”模型架构曝光_推理_内存_文件
智东西
作者 | 江宇
编辑 | 冰倩
智东西1月21日报道,DeepSeek-R1发布一周年之际,来自DeepSeek的神秘新模型“MODEL1”悄然现身GitHub代码库。
多位社区开发者推测,MODEL1很可能正是DeepSeek内测中的V3终极版本(V4模型),也有人猜测它可能代表一个完全独立于V系列的新模型。
▲海外开发者在X平台讨论MODEL1身份
近日,DeepSeek向其核心推理内核FlashMLA推送了一系列更新,而在这些提交中,一个此前从未公开亮相的模型命名引发了社区的高度关注——MODEL1。
▲DeepSeek代码库出现MODEL1相关(图源:X)
这一名称不仅出现在SM90架构相关的.cu内核实例化文件中,还贯穿在多个针对FP8稀疏解码路径的模板定义与内存布局注释里。
更关键的是,据海外开发者推测,MODEL1的背后将是一整套新的推理机制、算子结构与底层内存配置,会与DeepSeek现有V3.2模型呈现出完全不同的技术路径。
在相关代码文件中可以看到,MODEL1被用于核心解码函数的多个实例中,显式适配了头维度为64和128的场景,并专门部署在SM90和SM100架构上。
▲DeepSeek FlashMLA源码截图(图源:GItHub)
代码中多处调用了“ModelType::MODEL1”,与其对应的还有一套独立的持久化内核。这些文件与V32版本的持久化内核文件并行存在,这显示出DeepSeek或许已为该模型设计了与V3系列完全不同的编译路径与执行逻辑。
▲DeepSeek FlashMLA源码文件树(图源:GItHub)
更值得注意的是,在代码中,有一条特别注释写道:对于F3架构(即SM90平台)下的MODEL1模型,其KV缓存的内存stride必须是576B的整数倍。
▲海外网友推文截图(目前该条注释已于代码库内删除)
这一配置区别于V3.2的656B,暗示着MODEL1对底层内存对齐和调度有更为严格的要求,可能与其更复杂的运行时行为与动态缓存机制有关。
一位海外网友也对这部分代码进行了深入解读,他认为,MODEL1在整体结构上展现出更强的实验性特征,支持动态Top-K稀疏推理逻辑,还引入了额外的KV缓存区。
▲海外开发者的分析(图源:X)
前者通过引入一个可变的topk_length指针,允许模型在推理时根据token或请求动态决定参与计算的key数量,提升了计算***的精细调度能力;后者则通过extra_kv缓冲区,提供了将系统提示与用户上下文分离存储的可能,为Agent架构或多段上下文场景提供支持。
据社区开发者分析,MODEL1在同步逻辑与边界控制上可能比V3.2更加复杂。其中RoPE与NoPE维度在双GEMM运算中耦合更紧,可能意味着其在位置编码与张量路径调度上做出了显著调整。
分析还提到,MODEL1引入了运行时边界检查机制,旨在规避动态Top-K推理中潜在的非法内存访问。
此外,尽管官方注释中标明MODEL1的stride应为576B,但据社区开发者基于代码结构估算,其实际内存分配逻辑可能接近584B。这种细微差异被认为反映出该分支仍处于调试或快速迭代阶段。
在更早的1月9日,外媒援引知情人士称,DeepSeek将于2月中旬,也就是春节前后发布其下一代模型,主打编程能力,并在内部测试中已经在多个基准上超越了Claude与GPT系列。
结合目前模型文件结构已覆盖64和128两个头维度、FP8稀疏解码路径已完成适配、内存规范已强制定义等迹象来看,MODEL1很可能已接近训练完成或推理部署阶段,正等待最终的权重冻结和测试验证。
在海外社交平台上,不少用户对MODEL1的曝光反应热烈。一位用户调侃道:“我已经能听见‘新模型将带来99.***%成本下降’了。”
而另一位开发者则认为,如果DeepSeek再次开放权重,势必将对闭源巨头形成压力,推动前沿模型进一步走向开放。
恰逢DeepSeek R1发布一周年,Hugging Face官方博客也发布了特别文章《One Year Since the “DeepSeek Moment”》,系统回顾了过去一年中国开源社区的集体爆发,明确提及DeepSeek的开源策略已从一次***演化为生态策略。
▲Hugging Face官方博客:One Year Since the “DeepSeek Moment”
文章称,R1模型的开源不仅降低了推理技术、生产部署与心理三个门槛,更推动了国内公司在开源方向上形成非协同但高度一致的战略走向。返回搜狐,查看更多
同类文章排行
- 妈妈去世后,外婆家的亲戚集体不来,我还要跟他们交往吗?
- Vue性能优于React,那为什么还不用Vue?
- 女生到底应不应该穿***的衣服?
- 写代码的时候总是考虑太多怎么办?
- 启用哪一个DNS网速最快?
- 为何linux安装程序会很麻烦?
- 为什么广东人敢生?对别的省份提高生育率有哪些可借鉴学习之处?
- 自研项目,PHP用什么框架最好?
- 软件定制开发的价格为啥那么高?
- golang 与rust 在服务器程序领域相比较,各有什么优劣势?
最新资讯文章
- 所有电子都是一模一样的吗?
- ***如亚马逊河在中国境内,取代了黄河的位置,我们将会怎样的治理它?
- 为什么现在很多人推崇国外原版教材?
- 为什么西方发达国家的女人几乎不坐月子,而中国女人有坐月子的习俗?
- 能分享一下你写过的rust项目吗?
- PlayStation 5 发布五周年,销量不错但粉丝们普遍表示失望,这背后的原因是什么?
- 目前美军还有哪些领域是明显领先于解放军的?
- 为什么就没有超级黑客开发出能爆发显卡全部能力的驱动呢?
- 字节大量使用新语言,包括go,rust等,为什么阿里一直都抱着j***a不松手?
- 听说月球在以每年四厘米的距离离开地球,这是不是真的?
- 和女生合租,都会发生什么事情?
- 为什么鱼缸里面的水一直感觉不是很清澈呢?
- 我弟弟用管理员身份把我和爸妈的WIFI 设置了,现在就他能用网,气不过,有办法让我出口气吗 ?
- PostgreSQL 与 MySQL 相比,优势何在?
- postgresql也很强大,为何在中国大陆,mysql成为主流,postgresql屈居二线呢?
- 我特别不明白,我们这边做j***a 的,为什么要用windows 做server?
- 为什么好多人不承认大众审美就是喜欢白皮?
- PHP初学者,我能不能使用PHP来开发桌面应用?
- 网络上那么多的站桩教程,到底哪种才适合初学者?
- 为什么中国防空反导系统才7年就从山寨到全面原创且超越了俄罗斯?





