distributed training 24

• Megatron 专家训练：实验、深挖链与源码阅读路径 Jul 20, 2026
• Megatron 面试题（九）：专家系统设计、源码与事故题 Jul 20, 2026
• Megatron 面试题（八）：Checkpoint、数据与可靠性 Jul 20, 2026
• Megatron 面试题（七）：性能、融合、精度与通信重叠 Jul 20, 2026
• Megatron 面试题（六）：MoE 与 Expert Parallel Jul 20, 2026
• Megatron 面试题（五）：Context Parallel 与长序列 Jul 20, 2026
• Megatron 面试题（四）：DDP 与 Distributed Optimizer Jul 20, 2026
• Megatron 面试题（三）：Pipeline Parallel 调度 Jul 20, 2026
• Megatron 面试题（二）：Tensor 与 Sequence Parallel Jul 20, 2026
• Megatron 面试题（一）：模型抽象与训练数据流 Jul 20, 2026
• Megatron 面试题（零）：全局架构与核心抽象 Jul 20, 2026
• Megatron 专家面试题系列：架构、并行与大规模训练 Jul 20, 2026
• AI Infra 面试实战：上机题、岗位选题与六周训练计划 Jul 20, 2026
• AI Infra 面试题（十）：框架运行时与底层契约 Jul 20, 2026
• AI Infra 面试题（九）：工程实现与实验深挖 Jul 20, 2026
• AI Infra 面试题（八）：训练与推理系统设计 Jul 20, 2026
• AI Infra 面试题（七）：8 卡 V100 项目答辩 Jul 20, 2026
• AI Infra 面试题（六）：生产集群、可靠性与 RL Infra Jul 20, 2026
• AI Infra 面试题（五）：GPU Kernel、编译与性能工程 Jul 20, 2026
• AI Infra 面试题（四）：LLM 推理引擎与在线服务 Jul 20, 2026
• AI Infra 面试题（三）：大模型多维并行 Jul 20, 2026
• AI Infra 面试题（二）：DDP、FSDP 与训练运行时 Jul 20, 2026
• AI Infra 面试题（一）：GPU、通信与性能基础 Jul 20, 2026
• AI Infra 面试题系列：从 GPU 基础到生产系统 Jul 20, 2026