nccl 39

• NCCL 进阶面试实验题：20 个细节追问、源码与实测证据 Jul 17, 2026
• NCCL 面试题详解：54 题从集合通信到大模型推理与生产排障 Jul 15, 2026
• NCCL 专家课程 36：一条 DDP AllReduce 的端到端证明 Jul 12, 2026
• NCCL 专家课程 35：生产基线、回归判定与版本治理 Jul 12, 2026
• NCCL 专家课程 34：Debug、NVTX、Nsight 与 Flight Recorder 证据链 Jul 12, 2026
• NCCL 专家课程 33：Collective Mismatch、Hang、Rank Crash 与根因链 Jul 12, 2026
• NCCL 专家课程 32：TP、PP、EP/MoE 与多维 Process Group Jul 12, 2026
• NCCL 专家课程 31：ZeRO-0/1/2/3、FSDP 与状态分片 Jul 12, 2026
• NCCL 专家课程 30：DDP Reducer、Bucket 与计算通信重叠 Jul 12, 2026
• NCCL 专家课程 29：ProcessGroupNCCL、Stream、Event 与 Work Jul 12, 2026
• NCCL 专家课程 28：CollNet、SHARP、NVLS 与插件门控 Jul 12, 2026
• NCCL 专家课程 27：Multi-NIC、Rail、Cross-NIC 与 PXN Jul 12, 2026
• NCCL 专家课程 26：GPUDirect RDMA、DMA-BUF、MR 与注册缓存 Jul 12, 2026
• NCCL 专家课程 25：Socket、InfiniBand、RoCE 与 Verbs 数据面 Jul 11, 2026
• NCCL 专家课程 24：CPU Proxy、NET Progress、Socket Helper 与 GPU 协作 Jul 11, 2026
• NCCL 专家课程 23：Device Kernel、Primitives、Step/Credit 与 LL Flag Jul 11, 2026
• NCCL 专家课程 22：Enqueue、Task、Plan、Work Batch 与 CUDA Graph Jul 11, 2026
• NCCL 专家课程 21：P2P Direct、CUDA IPC、Read/Write 与 SHM Copy Engine Jul 11, 2026
• NCCL 专家课程 20：Transport 选择、Connector 与连接生命周期 Jul 11, 2026
• NCCL 专家课程 19：Graph Search、Ring/Tree 与 Channel 构造 Jul 11, 2026
• NCCL 专家课程 18：拓扑 XML、节点模型与路径计算 Jul 11, 2026
• NCCL 专家课程 17：Bootstrap 与 Communicator 初始化状态机 Jul 11, 2026
• NCCL 专家课程 16：Tuning 代价模型、自动选择与 Tuner Plugin Jul 10, 2026
• NCCL 专家课程 15：Channel、Chunk、Slice、Step、Buffer 与 CUDA Block Jul 10, 2026
• NCCL 专家课程 14：Simple、LL、LL128 的线格式、同步与真实性能边界 Jul 10, 2026
• NCCL 专家课程 13：Tree、双树、层次化连接与真实交叉区间 Jul 10, 2026
• NCCL 专家课程 12：Ring AllReduce 逐步推导、真实 Ring 与 Channel 并行 Jul 10, 2026
• NCCL 专家课程 11：性能回归的分层归因与故障指纹 Jul 10, 2026
• NCCL 专家课程 10：延迟-带宽分段模型、残差与 Tuner 预测 Jul 10, 2026
• NCCL 专家课程 09：Benchmark 方法学、同步边界与噪声证据 Jul 10, 2026
• NCCL 专家课程 08：从 nccl-tests 源码推导 algbw 与 busbw Jul 10, 2026
• NCCL 专家课程 07：AllReduce 等价分解、显存生命周期与 Kernel 证据 Jul 10, 2026
• NCCL 专家课程 06：Group、全局顺序与异步错误状态机 Jul 10, 2026
• NCCL 专家课程 05：Collective 契约、内存布局与逐元素证明 Jul 10, 2026
• NCCL 专家课程 03：CUDA Stream、Work.wait 与真正的完成语义 Jul 10, 2026
• NCCL 专家课程 01：从 ELF 动态链接证明实际运行版本 Jul 10, 2026
• NCCL 专家课程 04：Rank、Process Group 与 Communicator 生命周期 Jul 9, 2026
• NCCL 专家课程 02：从 NV2 拓扑到 P2P 带宽与并发争用 Jul 9, 2026
• NCCL 专家学习路线：36 章源码与实验课程 Jul 9, 2026