NVIDIA Open GPU Kernel 源码深度解析

驱动实现算法 Algorithm

链路训练（三套算法）：

• Legacy（NVL<3.0）：PRBS 发生器 → TX_HS → 轮询两端 RX_HS（7s 超时）→ PRE_HS → HS → TRAFFIC_SETUP → ENABLE_PM
• ALT（NVL≥3.0）：INITOPTIMIZE → POST_INITOPTIMIZE → PRE_HS → HS → TRAFFIC_SETUP → ENABLE_PM
• ALI（NVL≥4.0）：固件驱动 — INITPHASE1 → 逐链路训练 → 轮询两端 postRxDetLinkMask → 获取 SID 信息

L2 退出训练（11 步）：RESET → INITPHASE1 → RESTORE_STATE → RX_INIT_TERM → TX_COMMON_MODE → RX_RXCAL → TX_COMMON_MODE_DISABLE → TX_DATA_READY → SAFE（轮询两端）→ INITNEGOTIATE → ALT/Legacy 训练

拓扑发现：AN0 包注入 + 令牌匹配。NVL<3.0 由 SW 写入发现令牌；NVL≥3.0 由 Minion 固件处理，SW 直接获取 SID 值。

自适应带宽管理（Hopper+）：1Hz 回调检测 P2P 空闲状态，空闲时暂停/更新 Fabric Probe，以新的 RBM 模式恢复。支持 Full/Off/Min/Half/3Quarter 五种模式（直连），NVSwitch 仅支持 Min/Full。

训练算法源码 初始化序列 电源管理状态机

驱动实现算法 Algorithm

初始化序列（22 步）：平台检测 → HAL 设置 → 寄存器键加载 → SOE 构建 → CCI 构建 → DMA Mask → 设备状态 → UUID → InfoROM → 黑名单检查 → Fabric 心跳 → 链路创建 → 训练模式 → Scratch → 错误日志 → PRI Ring → IP Wrapper → 路由初始化 → 端口计数器 → 后置初始化 → 后台任务 → 中断使能。

Fabric Manager 集成：状态机从 OFFLINE → STANDBY → CONFIGURED，心跳超时后转为 MANAGER_TIMEOUT。黑名单原因包括 MANUAL_OUT_OF_BAND、TRUNK_LINK_FAILURE、ACCESS_LINK_FAILURE 等 8 种。

链路复位和 Drain 序列：检查 NXBAR 错误（始终为 FATAL）→ 禁用中断 → 等待紧急关机 → SOE NPort 复位 → Minion 链路复位（最多 3 次重试）→ 状态恢复 → 重编程路由表 → 重新注册链路 → ALI 训练 → 等待 DL 时钟 → 重新使能中断。

初始化序列代码 LS10 链路复位代码

驱动实现算法 Algorithm

C2C 链路检测：BIF 层读取 PDB_PROP_KBIF_IS_C2C_LINK_UP → GSP 静态配置提供 bAtsSupported → 内存系统层调用 kmemsysSetupCoherentCpuLink()。

一致性 CPU 映射创建（GH100）：检查 Self-Hosted + C2C 链路 UP → 读取 coherentCpuFbBase → 确定 coherentCpuFbSize → carve out 保留区域（WPR）→ 计算 NUMA Online 大小 → 注册 GPU 内存为 Linux NUMA 节点。

SMMU TLB 无效（GH180 WAR）：针对 Bug 4130089，驱动直接编程 ARM SMMU VCMDQ（通过 MMIO，使用 VINTF63 和 VCMDQ127），支持按 ASID 整体无效和按 VA 逐页无效，操作码为 TLBI_EL2_ASID (0x21)、TLBI_EL2_VA (0x22)、CMD_SYNC (0x46)。

P2P/RDMA over C2C：本地分配上的 RDMA 不支持（返回 NOT_SUPPORTED）→ 转换为 CPU 一致的 GPA（+coherentCpuFbBase）→ 映射标记为 CPU 可缓存。

一致性链路设置 GH100 CPU 映射 P2P/RDMA 映射

驱动实现算法 Algorithm

页树分配：从根节点走查，从 VA 位计算入口索引 → 若为空则分配新页目录 → 重试循环处理并发竞争（dir_cache）→ 新目录清零（通过 CE 或 CPU）→ 自底向上写 PDE → TLB 无效。页表位置策略：默认优先 vidmem 回退 sysmem；SR-IOV 必须 vidmem；机密计算必须 vidmem；集成 GPU 必须 sysmem。

VA 空间布局（Hopper+）：0→64PB（RM 管理）→ 64PB→64PB+32TB（Peer 身份映射 32×1TB）→ 64PB+32TB→64PB+384TB（Flat Vidmem 最多 1TB）→ 64PB+384TB→64PB+512TB（UVM 内部 128GB）。

可重放故障处理流程：中断触发 → 从 HW 缓冲拷贝到 shadow → 解析故障包（VA/类型/访问类型/引擎/客户端）→ 批量服务故障 → 填充页表 → TLB 无效 → 更新 PUT 指针触发重放 → 通知客户端。

HMM 集成：x86_64 默认开启，ARM64 默认关闭。通过 mmu_interval_notifier 跟踪 CPU 页表变化。设备私有页（devmem）表示 GPU 内存映射到 CPU 地址空间。迁移使用 Linux migrate_vma_* API，通过 CE 在 GPU↔CPU 间拷贝数据。

页树分配代码 故障缓冲代码 HMM 集成代码 内存迁移代码