Tag: MoE

全部标签 "MoE".

• DeepSeek-V4 技术解读：1M Context、MoE 稳定性与低精度训练的工程取舍

  2026年4月29日 8:00

  基于 DeepSeek-V4 技术报告系统梳理 DeepSeek-V4 在 1M Context、MoE 训练稳定性、FP8/FP4 低精度训练、Muon 分布式实现上的关键工程取舍，并说明这些设计与检索质量、训练成本和系统复杂度之间的关系。