AI资讯新闻榜单内容搜索-mHC

关键词: AI新闻,模型训练,DeepSeek mHC,多流残差坍塌

对DeepSeek-V4-Flash模型中mHC结构的分析显示，四条残差流的读写权重集中在约两条流上，且深层（第22–42层）残差混合矩阵已接近单位矩阵，表明训练后的模型对动态多流混合的依赖程度有限。

关键词: AI新闻,deepseek,梁文峰论文盘点,梁文峰论文汇总

过去三年，梁文锋极少以第一作者或通讯作者身份，出现在 V3.2、V4、V4.1-Flash 这些动辄上百人署名的旗舰模型整体报告中；却始终把名字签在 MLA 注意力、MoE 路由机制、mHC 拓扑流形、DSpark 推理算子、DSec 智能体沙盒这些最底层的原子技术论文上。

关键词: AI新闻,模型训练,DeepSeek V4,Engram

DeepSeekV4的技术报告里有mHC，有CSA，有HCA，有Muon，有FP4……唯独没有Engram。Engram在今年1月由DeepSeek和北大联合开源，主要研究大模型的记忆与效率问题。

关键词: AI新闻,复现DeepSeek的mHC,复现mHC,mHC,模型训练

元旦期间，DeepSeek 发布的 mHC 震撼了整个 AI 社区。