diff --git a/BMM/BMM算子优化分析_Release/BMM算子优化分析_v0.8.html b/BMM/BMM算子优化分析_Release/BMM算子优化分析_v0.8.html new file mode 100644 index 0000000..935b9d1 --- /dev/null +++ b/BMM/BMM算子优化分析_Release/BMM算子优化分析_v0.8.html @@ -0,0 +1,425 @@ + + + + + +BMM 算子优化分析 v0.8 — 昇腾 950PR + + + + + +
+

BMM 算子优化分析（v0.8）

+
目标芯片：昇腾 950PR（DAV_3510）。所有分支进入条件只含 case 形状参数（B、M、N、K、dtype）与芯片规格参数。
+
+

一、算子功能与接口说明

+

完成带 batch 的矩阵乘：C = A @ B + bias。

+ +
+

二、符号与芯片参数约定

+ + + + + + + + + + + + + + +
符号含义950PR 取值
CAIC 核数（aicNum）32
Q₁₆单核 Cube BF16 峰值算力486/C ≈ 15.2 TFLOPS
Q_AIVAIV 向量求和吞吐（64 核合计）64×128 fp32/拍×1.65GHz ≈ 13.5 Tops/s
L1每核 L1 Buffer512KB
L0A / L0B每核 L0A / L0B64KB / 64KB
L0C每核 L0C（FP32 累加，4B/元素）256KB
L2L2 Cache 容量128MB
W_L2L2 读写带宽5.2TB/s
W_GMGM 带宽（读写共享）1.6TB/s
R₁₆16bit 对应位宽算存比≈607.5 FLOP/元素
dValue单数据块内数据连续排布长度推荐 256B/512B，不建议 <128B
min_TileSize确保高带宽利用率的单块搬移数据量最小值16KB
min_DatamountPerCore确保高带宽利用率的单核搬移数据量最小值480KB
minCoreNum确保高带宽利用率的并行搬移核数最小值≈0.8C = 26
+

以上数值基于 950PR 实测分析总结；对搬移带宽利用率的影响重要性排序为：核数 > 单核搬移总数据量 > 单分块大小 > dValue。不同 NPU 芯片数值可能略有差异，换芯片时逻辑结构不变、只换常数表。

+
+

三、最优实现分析

+

3.1 性能模型

+

BMM 的执行是核内多级硬件流水的并行——Cube 计算（MMAD）、GM/L2→L1（MTE2）、L1→L0（MTE1）、L0C 写出（Fixpipe），各流水级时延可被双缓冲相互掩盖：

+
$$ +T_{total} = \max\big(T_{MMAD},\; T_{MTE2},\; T_{MTE1},\; T_{Fixpipe}\;[,\;T_{Reduce}]\big) +$$
+

总时延 = 最慢一级流水，优化的关键是对瓶颈级的优化。由此得到设计自由度——瓶颈交换：搬移是瓶颈时可牺牲算力（冗余计算）换搬移效率；计算是瓶颈时可牺牲搬移（重复读取）换计算效率。MergeBatch 是前者的典型，ASW_Basic 切 M/N 是后者的典型。

+

case 固有算存比与 16bit 位宽平衡点：

+
$$ +AI = \frac{2MN}{M+N},\qquad AI_{full} = \frac{2MNK}{MK+KN+MN} +$$
+
$$ +R_{16} = \frac{\text{Cube 峰值算力}}{\text{GM 带宽} / \text{元素字节数}} = \frac{486\ \text{TFLOPS}}{1.6\ \text{TB/s} \,/\, 2\ \text{B}} \approx 607.5\ \text{FLOP/元素} +$$
+

其中 486 TFLOPS 是乘加各计一次后的标称算力；分母中的 2B 是 16bit 元素字节数，作用是把 GM 带宽折算成元素速率。

+

$AI < R_{16}$ → 访存 Bound（瓶颈在 MTE2）；反之计算 Bound（瓶颈在 MMAD）。

+

3.2 实现本质逻辑

+

BMM 的实现本质是：把数据分块（tile），由全部 AIC 核并行 + 串行完成这些分块的计算，再组合成最终结果：

+
$$ +C[B,M,N] = \Big\{\,C[B_u, M_i, N_j] = \sum_k A[B_u, M_i, K_k] \cdot B[B_u, K_k, N_j]\,\Big\} +$$
+

分块有 4 个维度：B、M、N、K。核间怎么分这 4 个维度，就是分支划分的第一性问题（核内分块是第二性问题，属于各分支内部 tiling）。

+

四个维度的核间切分特征（后续一切推导的基石）：

+ + + +
切分维度读入特征计算特征写出特征
切 B核间零重复读（每个数据块只被 1 个核读取）；核内是否重复读另有条件——若 L1 放不下单 batch 完整的 M、N 维输入（K 维可切段放入，kL1<K），单 batch 计算中切 M 会重复读 B、切 N 会重复读 A每个输出块由 1 个核独立完成，无核间依赖只写最终结果，无中间结果
切 M / 切 N切 M 则同一右矩阵块被多核重复读；切 N 则同一左矩阵块被多核重复读每个输出块由 1 个核独立完成，无核间依赖只写最终结果，无中间结果
切 K每个数据块只被固定的 1 个核读取，零重复读每个输出块由多核共同完成，存在核间依赖有中间结果写出，需核间 Reduce 归约
+

差异的根本原因：B 维在数学上独立（逐 batch 独立矩阵乘），切 B 核间天然零重复、零依赖；K 维有 L0C 累加机制——核内切 K 时多轮 mmad 在 L0C 原地累加、中间结果不出核，一旦切到核间，部分和必须写出 workspace 再归约——切 K 是唯一同时破坏"累加不出核"和"输出独占"的切法。

+

4 维的任意非空子集共 $2^4-1=15$ 种切分组合，任何实现方案必属其一（完备）：

+ + + +
组组合共同特征优化重心
纯 B{B}核间零重复读（核内重复读取决于 L1 驻留形态）；无中间写出搬移效率 / 计算效率
含 M/N 不含 K{M},{N},{M,N},{B,M},{B,N},{B,M,N}核间可能有重复读重复读尽量少（L2+swizzle 吸收）+ 搬移/计算效率
含 K其余 8 种有中间结果写出 + 归约计算效率，且归约时延不能成为新瓶颈
+

核间切分价格严格排序：cost(切 B) = 0 < cost(切 M/N) ≪ cost(切 K)。切 B 核间免费；切 M/N 的重复读可被 128MB L2（5.2TB/s vs GM 1.6TB/s）+ swizzle 大部分吸收；切 K 的归约流量 ∝ grid_K×输出量且引入核间同步，是结构性代价。整条分支决策树就是：按价格从低到高购买并行度，买不够才加价。

+

3.3 分支推导

+
    +
  1. 问题规约：BatchA=1 或 BatchB=1 → 折叠转普通 Matmul（转Matmul）；K=0 / K=1 → Cube 无用，走 AIV 向量通路（特殊分支，与切分正交的前置判断）；
    2. +
  2. 先买免费的 B：B ≥ C 时切 B 可满核。单 batch M×N 够大 → 逐 batch 算（IterBatch）；M×N 太小 → 多 batch 合并成大 tile 算，冗余算力换搬移效率（MergeBatch）；
    3. +
  3. B 买不满，加价买 M/N：切 M/N 或混合切，重复读交给 L2 + swizzle（ASW_Basic）；
    4. +
  4. B/M/N 都买不满，才买昂贵的 K：核间切 K + 归约（StreamK）。
    5. +
+

由此得 6 大分支：转Matmul、特殊分支、IterBatch、MergeBatch、ASW_Basic、StreamK。重叠区（如 B≥C 且 M×N 中等时 MergeBatch 与 IterBatch 都合法）由端到端时延模型 $T_{total}$ 仲裁；分支体系保证候选集完备无冗余。

+
+

四、可转 Matmul 分支

+

进入分支条件

+
$$ +BatchA = 1 \;\lor\; BatchB = 1 +$$
+

解释：单边 batch=1 的 BMM 与 Matmul 只差一个维度标签，直接复用 Matmul 的成熟优化体系。

+

实现方案

+ +
+

五、MergeBatch 分支

+

核间切 B（每核 $b_{core}$ 个 batch，核间无同步）；核内把 b 个 batch 合并计算：$[b,M,K]@[b,K,N] \Rightarrow [bM,K]@[K,bN]=[bM,bN]$，BlockTrace 取块对角线得 $[b,M,N]$。交叉项被算出但丢弃（浪费比例 (b−1)/b）——进入该分支的 case 必然访存 Bound（条件 5 保证），浪费的算力被搬移时延掩盖。

+

进入分支条件（汇总）

+

同时满足（b0 = 单次合并计算的 batch 数下限，b0 ≥ 2）：

+
    +
  1. $BatchA = BatchB \;\land\; b_{core} = B/C \ge 2b_0$
    2. +
  2. $2 \cdot (b_0 M)(b_0 N) \cdot 4\text{B} \le L0C$
    3. +
  3. $b_{core} \cdot (MK + KN) \cdot \text{dtype} \ge min\_DatamountPerCore$
    4. +
  4. $\max(MK,\; KN) \cdot \text{dtype} \ge min\_TileSize$
    5. +
  5. $\dfrac{2MN}{M+N} < \dfrac{R_{16}}{b_0}$
    6. +
+

逐条解释

+
    +
  1. batch 关系与每核份额：无广播才能逐 batch 对应合并；每核至少分到 $2b_0$ 个 batch——$b_0$ 是合并搬移有收益的最小合并数（取 2），2 组起步才能构成合并组间乒乓流水（即 $b_{core} \ge 4$）。
    2. +
  2. L0C 容量：合并 $b_0$ 个 batch 的输出块 $[b_0M, b_0N]$（FP32 累加、双缓冲两份）必须放得下 L0C；连最小合并都放不下，合并无从谈起。
    3. +
  3. 单核搬移总量：单核搬移数据总量低于 min_DatamountPerCore 时，GM 带宽利用率上不去（重要性第 2 位的经验约束）。
    4. +
  4. 搬移 tile 大小：单 batch 单矩阵的最大连续搬移块须达到 min_TileSize；合并是在此之上进一步放大，不是替代。
    5. +
  5. 访存 Bound：合并把单次计算的算存比放大 $b_0$ 倍后仍须低于 16bit 对应位宽算存比 $R_{16}$，保证瓶颈留在搬移侧，冗余算力被掩盖而非成为新瓶颈。
    6. +
+

实现方案

+

Step 1：合并数 b（L0C + 算存比双上限）

+
$$ +b \le \sqrt{\frac{L0C}{2 \cdot MN \cdot 4\text{B}}},\qquad b < \frac{R_{16}(M+N)}{2MN} +$$
+
$$ +b = \min\big(\text{两上限},\; b_{core}\big),\quad b_{L0} = b +$$
+

b 尽量取 $b_{core}$ 的因子（每次合并数均匀，负载与功耗更优）。

+

**Step 2：L0 级 K 粒度 $k_{L0}$**

+
$$ +k_{L0} = \min\Big(\frac{L0A}{2\,bM\cdot\text{dtype}},\; \frac{L0B}{2\,bN\cdot\text{dtype}}\Big)\ \text{向下 16 对齐，且 } k_{L0}\cdot\text{dtype} \ge 128\text{B} +$$
+

解释：L0A/L0B 各 64KB、双缓冲两份，装入合并后 $bM$ 行（$bN$ 列）× $k_{L0}$ 的 fractal；末项是 dValue 下限。

+

**Step 3：L1 级 $k_{L1}$、$b_{L1}$**

+
$$ +k_{L1} \ge \min\big(k_{L0\_max},\; 256\text{B}/\text{dtype}\big),\qquad +2\,b_{L1}(M k_{L1} + k_{L1} N)\cdot\text{dtype} \le L1,\qquad +b_{L1} = \min(b_{L1\_max},\; b_{core}) \;\ge\; b +$$
+

解释：$k_{L1}$ 是 GM→L1 的 K 向粒度，按 dValue 推荐值 256B 取；L1 双缓冲两份，每份驻留 $b_{L1}$ 个 batch 的 A/B 各一块；$b_{L1} \ge b$ 保证合并不断供。

+
+

六、IterBatch 分支

+

核间切 B（每核 $b_{core} \ge 1$ 个 batch，核间无同步）；核内逐个 batch 做标准 Matmul 分块计算。无算力浪费、无跨 batch 依赖，是"切 B"最朴素的形态。

+

进入分支条件（汇总）

+

同时满足：

+
    +
  1. $BatchA = BatchB \;\land\; b_{core} = \lceil B/C \rceil \ge 1$
    2. +
  2. $B \bmod C = 0 \;\lor\; B \bmod C \ge minCoreNum$
    3. +
  3. L1 容量约束，四选一（Step 为 >1 的整数）：
    4. + +
  4. c/d 切分后：搬移分块 $\ge min\_TileSize \;\land\; dValue \ge 128\text{B}$
    5. +
+

逐条解释

+
    +
  1. batch 关系与每核份额：无广播；每核至少 1 个 batch。
    2. +
  2. 负载均衡：切 B 核间零共享零依赖，唯一系统性风险是负载不均。整除时完全均衡；不整除时尾波活跃核数须 ≥ minCoreNum，保证尾波仍有足够核并发搬移（重要性第 1 位的约束是核数）。
    3. +
  3. L1 容量——核心要求：单 batch 计算不重复读。
    4. +
+

重复读发生在单 batch 内部：L1 放不下单 batch 完整的 M、N 维输入（K 维允许切段放入，kL1<K）时，核内切 M 会在 K 循环中重复读 B、切 N 会重复读 A。IterBatch 进入与否不由算存比判定——即使 case 是计算 Bound，重复读引入的额外搬移也可能把它重新拖回访存 Bound。所以进入条件直接由 L1 驻留形态刻画：

+ +
    +
  1. 搬移效率下限：切分把粒度切小，必须守住 min_TileSize 与 dValue，否则切分本身把带宽打崩。
    2. +
+

batch 间流水掩盖分析（c/d 的分工）

+

先明确流水结构：fixpipe 开 unitflag 后，写出由硬件随路完成（每个 16×16×16 fractal 算完即自动搬出），写出侧不需要软件排流水；要掩盖的只有"读入（MTE2: GM→L1）↔ 计算（Cube）"。

+ +

结论：(c) 统一了原 (c)/(d)——同一族"一侧驻留 + 对侧切 K"，预算按 $b_{core}$ 分档（$b_{core}=1$ 全量 L1、$b_{core} \ge 2$ 减半以容纳下一 batch 驻留侧预取）；驻留侧超 L1/2 时由 (d) 接管。

+

实现方案

+

(a)：每核 1 batch 直接搬入 L1。L1→L0 先看 L0C 能否放下完整单 batch 输出：

+
if (L0C >= M*N*4B):                     # L0C 放得下完整输出：不切 M/N，只切 K
+    BaseM = M;  BaseN = N
+    BaseK = min(align(L0A/M, 16), align(L0B/N, 16))
+else:                                    # L0C 放不下：按较小维切
+    if M < N:  BaseM = align(M,16);  BaseN = floor(L0C/4B / BaseM)
+    else:      BaseN = align(N,16);  BaseM = floor(L0C/4B / BaseN)
+    BaseK = min(floor_align(L0A/BaseM,16), floor_align(L0B/BaseN,16))
+

(b)：L1 双 batch 乒乓，核内 GM→L1→L0→Cube→L0C→GM/L2 流水；L1→L0 分块同理，但各级预算减半（L0C/L0A/L0B 按 2 份）。

+

(c)：一侧驻留 + 对侧切 K。假设驻留左矩阵，右矩阵搬入的 K 向长度：

+
$$ +k_{L1\_b} = \min\Big(\frac{L1_{budget} - MK\cdot\text{dtype}}{N\cdot\text{dtype}},\; K\Big),\qquad L1_{budget} = \frac{L1}{\min(b_{core},\,2)} +$$
+

$b_{core} \ge 2$ 时另一半 L1 在计算期间预取下一 batch 的驻留侧，实现 batch 间无气泡衔接；fixpipe 开 unitflag。

+

(d)：两侧都切 K 段，$k_{L1}$ 取满足容量与 dValue 的最大值；L0C 按 batch 乒乓（各占 L0C/2），batch 边界由硬件 fixpipe 自动排空、下一 batch 立即在另一半 L0C 累加。

+
+

七、StreamK 分支

+

进入分支条件（汇总）

+
    +
  1. $P = \dfrac{B \cdot MN \cdot 4\text{B}}{L0C} < \dfrac{C}{2}$
    2. +
  2. $\dfrac{K}{grid_K} \ge \dfrac{256\text{B}}{\text{dtype}}$
    3. +
  3. $T_{Reduce} < T_{pipe}\left(1-\dfrac{1}{grid_K}\right)$，$T_{pipe}=\max(T_{MTE2},T_{MMAD})$（不切 K 时单输出块的流水瓶颈）
    4. +
  4. 工程约束：确定性等级 ≤ 1（核间归约顺序不定）；ND 格式
    5. +
+

逐条解释

+
    +
  1. 并行缺口：P 以"L0C 满载的输出基本块"为粒度估计不切 K 的最大并行度——基本块按 L0C 最大利用率取（$M^t N^t \cdot 4\text{B} = L0C$），免去预先估计 M/N 具体切分。阈值取 C/2 而非 C：StreamK 的定义就是 grid_K ≥ 2（至少 2 路切 K），且同一 batch 内所有输出块共享同一个 grid_K；grid_K=2 时每块需要 2 个核，总核数需求 = P × 2 ≤ C，即 P ≤ C/2。若 C/2 ≤ P < C，切 2 路就超核数（2P > C），不切又浪费一半核——这个区间由降核 ASW_Basic 承接更合适。P < C/2 才意味着不切 K 时连一半核都填不满，K 是唯一剩余的并行维度。
    2. +
  2. 单核 K 段下限：每核 K 段内轴连续长度不小于 dValue 推荐值 256B（BF16 为 128 元素），保证段内搬移效率不崩。
    3. +
  3. 归约代价可接受。StreamK 的代价是新增的归约串行尾。收益判据——切 K 后总时延须小于不切 K（降核 ASW）：
    4. +
+
$$T_{SK} = \frac{T_{pipe}}{grid_K} + T_{Reduce} < T_{pipe} \;\Longleftrightarrow\; T_{Reduce} < T_{pipe}\left(1-\frac{1}{grid_K}\right)$$
+

其中 $T_{pipe}=\max(T_{MTE2},\,T_{MMAD})$ 为不切 K 时单输出块的流水瓶颈。等价于 $T_{pipe} > \dfrac{grid_K}{grid_K-1}\cdot T_{Reduce}$——安全系数 α = grid_K/(grid_K-1) 由流水分析导出（grid_K=2 时 α=2），非经验值。

+

StreamK case 的 M、N 小（P<C/2），AI = 2MN/(M+N) 通常远低于 R₁₆ → 多数访存 Bound，$T_{pipe} = T_{MTE2}$ 是瓶颈，条件为 $T_{MTE2} > \dfrac{grid_K}{grid_K-1}\cdot T_{Reduce}$。

+

$T_{Reduce}$ 的构成（每输出块，部分和驻留 L2、AIV 归约；符号定义见 §二）：

+
$$ +T_{Reduce} = \underbrace{\frac{grid_K \cdot MN \cdot 4\text{B}}{W_{L2}}}_{\text{AIC 写部分和}} + \underbrace{\frac{grid_K \cdot MN \cdot 4\text{B}}{W_{L2}}}_{\text{AIV 读回}} + \underbrace{\frac{grid_K \cdot MN}{Q_{AIV}}}_{\text{AIV 求和}} + \underbrace{\frac{MN \cdot outB}{W_{L2}}}_{\text{写回}} +$$
+

求 K 闭式阈值（以计算 Bound 为例，$T_{pipe}=T_{MMAD}=2MNK/Q_{16}$；访存 Bound 时阈值更低）：

+
$$ +K > \frac{grid_K^2}{grid_K-1}\cdot\theta_c,\qquad +\theta_c = \frac{Q_{16}}{2}\Big(\frac{8\text{B}}{W_{L2}}+\frac{1}{Q_{AIV}}\Big) +$$
+

代入数值：$Q_{16}$ = 486/32 ≈ 15.2 TFLOPS，$W_{L2}$ = 5.2 TB/s，$Q_{AIV}$ ≈ 13.5 Tops/s：

+
$$ +\theta_c = \frac{15.2\times10^{12}}{2}\Big(\underbrace{\frac{8}{5.2\times10^{12}}}_{1.54\,\text{ps/元素}} + \underbrace{\frac{1}{13.5\times10^{12}}}_{0.07\,\text{ps/元素}}\Big) = 7.6\times10^{12} \times 1.61\times10^{-12} \approx 12 +$$
+

L2 读写（1.54 ps/元素）是主导项，AIV 求和（0.07）仅占 5%；多 tile 并行归约共享 L2/AIV 带宽的影响可忽略（P < C/2 块并行，归约总量 ~MB 级，vs 单块 T_pipe ~μs 级）。

+

grid_K=2→K>49；4→K>66；8→K>112。

+

注意 θ_c 对 workspace 落点敏感：部分和落 GM 时读写带宽从 5.2TB/s 降到 ~0.64TB/s，θ_c 升至约 97。设计时应优先保证 workspace 驻留 L2。

+
    +
  1. 工程约束：归约顺序不定引入浮点非确定性，确定性等级 2/3 的业务禁用。
    2. +
+

源码对照：batch_matmul_v3_basic_streamk_tiling.cpp 中 K 的固定门槛为 CeilAlign(K,256) ≥ max(8192, aicNum×256B/dtype)。

+ +

max 取更严格的 8192。修正后的归约阈值（θ_c≈12，grid_K=32 时 K>396）远低于 8192，说明 8192 的绑定约束是 dValue（条件 2），不是归约代价（条件 3）。源码不动态计算 grid_K，用固定阈值同时覆盖条件 2 的最保守情形和条件 3，是两条条件的保守合并近似。

+

实现方案

+

核间组织：先按 B/M/N 切出输出块，剩余核预算折成 K 向份数：

+
$$ +blocksPerBatch = \Big\lfloor \frac{C}{B} \Big\rfloor,\qquad +grid_K = \frac{blocksPerBatch}{mCnt \cdot nCnt} +$$
+

mCnt、nCnt 收拢为 blocksPerBatch 的因子（避免碎核尾块）；由条件 1 知 $mCnt \cdot nCnt \le blocksPerBatch/2$，故 $grid_K \ge 2$。归约组内核 c 负责 K 段 $[cK/grid_K,\; (c{+}1)K/grid_K)$。

+

核内流水：对自己的 K 段做标准分块流水（MTE2→L1→L0→mmad），段内多轮在 L0C 原地累加；段完部分和经 Fixpipe 写出。

+

归约：

+ +

参数搜索：$grid_K$ 从 2 起按 2 的幂递增，取同时满足条件 2/3 的最小值；都不满足则退为降核 ASW_Basic。

+
+

八、ASW_Basic 分支

+

进入分支条件（汇总）

+
    +
  1. $P = \dfrac{B \cdot MN \cdot 4\text{B}}{L0C} \ge C$
    2. +
  2. 无 batch 结构限制（BatchA=BatchB、交叉广播均可）；典型进入路径：$B < C$（切 B 买不满核），或 $B \ge C$ 但 IterBatch/MergeBatch 条件不满足时的兜底
    3. +
  3. 降核模式：$P < C$ 且不满足 StreamK 进入条件 → 只用 $\lceil P \rceil$ 个核，其余核闲置
    4. +
+

逐条解释

+
    +
  1. 并行度补齐：以 L0C 满载为基本块粒度，B×M×N 能切出至少 C 个独立输出块，则切 M/N（或混合切）并行度够用。切 M/N 的固有代价是共享矩阵被多核重复读，但共享部分驻留 128MB L2 时重复读以 5.2TB/s 命中 L2 而非 1.6TB/s 的 GM，代价大部分被吸收。
    2. +
  2. 兜底性质：ASW_Basic 是实践中最常命中的分支——B 可大可小可等 1，交叉广播也由此承接（对广播侧做 L1/L2 驻留，共享关系与切 M/N 同构）。
    3. +
  3. 降核模式：P < C 且 K 也不够格走 StreamK 时，并行度凑不满核。此时与其强行把 M/N 切得更碎（tile 跌破 min_TileSize、dValue 跌破 128B，搬移效率崩塌，反而更慢），不如只用 ⌈P⌉ 个核、每核承担一个完整输出块（L0C 满载粒度），其余核闲置。这类 case 的时延绝对值小，继续切分引入的调度与搬移效率损失大于并行收益——降核是理性选择而非偷懒。
    4. +
+

实现方案

+

1、核间切分维度选择（按共享代价从低到高）：切 B（零共享，先试）→ 切 M（右矩阵 $KN\cdot\text{dtype} \le L2$ 则驻留 L2）→ 切 N（对称）→ 混合切（靠 swizzle + L2 切分管理）→ 降核（见第 6 条）。

+

2、swizzle：ASW 滑窗蛇形

+

问题：核间切 M/N 后，同一时刻 C 个核各算一个输出块，它们所需的 A 行块与 B 列块集合就是当前"活跃工作集"。若按行优先顺序朴素分配，一波 C 个块横跨的 A 行、B 列很宽，活跃工作集超过 L2 就回 GM 读（1.6TB/s），重复读代价真实发生。swizzle 要做的就是编排输出块的执行顺序，把每一波核的活跃工作集压到最小。

+

做法：把 M 向每 W 个基本块划为一个"窗口"，遍历顺序为"窗口内先扫 M、扫满 W 行再进下一列 N；一个窗口扫完再进下一个窗口"，且奇数窗口行 N 向反向（蛇形）。效果有二：

+ +

W 怎么取：一波 C 个块的 L2 足迹约为

+
$$ +footprint \approx \big(W \cdot M^t K + \tfrac{C}{W} \cdot K N^t\big) \cdot \text{dtype} +$$
+

由均值不等式，$W + C/W$ 在 $W = \sqrt{C}$ 处取最小——窗口越接近"方形"（W 行 × C/W 列），足迹越小。同时 W 须整除 C，保证每个窗口恰好被整数波核覆盖、窗口边界不把波次切碎。合起来即：

+
$$ +W = \max\{\,d \mid d \mid C,\; d \le \lfloor\sqrt{C}\rfloor\,\} +$$
+

C=32 时 $\sqrt{32} \approx 5.66$，因子 {1,2,4,8,…} 中不超过它的最大者是 4，故 W=4。

+

实例（C=32，W=4，M̃=8，Ñ=8；数字为块的全局执行顺序，一波 32 块）：

+
窗口0（N 正向）                窗口1（N 蛇形反向）
+      ν0  ν1  ν2 …  ν7               ν0   ν1  …  ν7
+ μ0    0   4   8 …  28          μ4   60   56  …  32
+ μ1    1   5   9 …  29          μ5   61   57  …  33
+ μ2    2   6  10 …  30          μ6   62   58  …  34
+ μ3    3   7  11 …  31          μ7   63   59  …  35
+

块 31 = (μ3, ν7)，块 32 = (μ4, ν7)——相邻两个块共用同一条 B 列带（ν7），窗口切换几乎零增量。对比朴素行优先（Ñ=16 时）：一波横跨 2 个 A 行块 + 16 条 B 列带，足迹 (2·M^t + 16·N^t)·K·dtype；滑窗为 (4·M^t + 8·N^t)·K·dtype——M^t≈N^t 时足迹缩小 1/3。

+

窗内为什么不蛇形（对上例中"块 3=(μ3,ν0) → 块 4=(μ0,ν1) 而非 (μ3,ν1)"的说明）：蛇形的收益来自"相邻遍历段共享边界数据"，要分两种边界看：

+ +

3、L2 切分（工作集超 L2 时）

+

切的是什么：L2 切分切的是输出平面——把 M×N 平面切成 mL2TileNum × nL2TileNum 个大矩形块（每块 = 若干基本块的集合），使"该块所需的 A 行带 + B 列带"输入工作集 ≤ L2 可用读入空间；块内所有输出基本块算完再进下一块，输入只在跨块时换一次。

+

为什么需要它：滑窗压缩的只是"同一波"的足迹；若整个工作集超 128MB L2，跨波次复用落空——上一波窗口的 A 行早被挤出，下一波又得回 GM 读。且 L2 是读写共用的：输出经 fixpipe 写出时若驻留 L2（dirty），会压缩读入可用空间；若直写 GM，则占用与读共享的 1.6TB/s 总线。所以 L2 切分必须与写出策略联合决策。记输入总量 $S_{in} = B(MK+KN)\cdot\text{dtype}$，输出总量 $S_{out} = B \cdot MN \cdot outB$。

+

两个不变量（一切分析的起点）：

+ +

重复读倍率：$r_{in}$ = GM 输入流量 / $S_{in}$。$r_{in} = 1$ 表示每个输入数据从 GM 只读一遍（后续复用全在 L2 命中）——这是 GM 输入流量的下界，L2 管理的全部目标就是让 $r_{in}$ 尽量接近 1。

+

先判定写出会不会 Bound。平均写出带宽需求：

+
$$ +BW_{out} = \frac{S_{out}}{T_{MMAD}} = \frac{B \cdot MN \cdot outB}{2BMNK\,/\,(C \cdot Q_{16})} = \frac{C \cdot Q_{16} \cdot outB}{2K} +$$
+

只与 K、outB 有关（K 越小，单位时间输出越密）。例（BF16 输出，C·Q₁₆=432 TFLOPS）：K=512 → 844 GB/s；K=256 → 1.69 TB/s，已超 GM 总线——此时任何策略都写出 Bound，L2 缓冲只能削峰（fixpipe 以 5.2TB/s 写 L2 吸收突发），平均速率仍受总线限制，应预期 Fixpipe 成为 $T_{total}$ 的 max 项。

+

分场景决策：

+

**场景 A：$S_{in} + S_{out} \le L2$（全驻留）**。输入读一遍（$r_{in}=1$），输出驻留 L2（dirty）异步回写 GM——写出走 5.2TB/s L2 写口，不与读争，也削平了 GM 写突发。无需切分。

+

**场景 B：$S_{in} \le L2$ 但 $S_{in} + S_{out} > L2$（输入能驻留，加上输出超了）。策略：输入驻留、输出直写 GM**。理由链：

+
    +
  1. $S_{in} \le L2$ ⇒ 全部输入可驻留 L2，跨波次复用全部命中 ⇒ $r_{in} = 1$（GM 输入流量达到下界 $S_{in}$）；
    2. +
  2. 输出在本算子内只写不读、零复用收益；若输出也驻留 L2（dirty），超出 L2 的部分会把输入挤出——被挤出的输入后续得回 GM 重读 ⇒ $r_{in} > 1$，GM 流量超出下界；
    3. +
  3. 故让输出直写 GM（fixpipe L0C→GM，不占 L2），把 128MB 全部留给输入，保住 $r_{in} = 1$——GM 总流量保持下界 $S_{in} + S_{out}$；
    4. +
  4. 代价是输出即刻占用 GM 写带宽（与读共享总线），须校验总线不爆：$(S_{in} + S_{out})/T_{MMAD} \le W_{GM}$。
    5. +
+

例：B=8、M=N=4096、K=512、BF16——$S_{in}$≈67MB ≤ L2，$S_{out}$≈268MB 直写 GM；T_MMAD≈318µs，总流量速率 (67+268)MB/318µs ≈ 1.05TB/s < 1.6TB/s ✓。

+

**场景 C：$S_{in} > L2$（输入本身超）**。必须 L2 切分。输出直写 GM 以最大化 $L2_{read}$，切分数满足

+
$$ +mL2TileNum \times nL2TileNum \;\ge\; \frac{S_{in}}{L2_{read}} +$$
+

每块输入工作集 ≤ $L2_{read}$，逐块计算——块内滑窗复用充分，块间只发生一次性换入。块内分配用错位分核（对角线分配）：线性块号先取 m，n 方向叠加随块号递增的相位偏移，使同一时刻各核落在 M×N 平面的不同对角线上——避免多核同一拍并发读同一行 A / 同一列 B 的同一地址（同地址并发读会串行化，等效带宽打折）。例（8 核、4×4=16 个基本块，k0~k7 为核号）：

+
行优先（不错位）：              错位分核（对角线）：
+      n0  n1  n2  n3                  n0  n1  n2  n3
+ m0   k0  k1  k2  k3             m0   k0  k4  .   .
+ m1   k4  k5  k6  k7             m1   .   k1  k5  .
+ m2   .   .   .   .              m2   .   .   k2  k6
+ m3   .   .   .   .              m3   k7  .   .   k3
+
+同一波：A 行带 m0 被 k0~k3 同读     同一波：每行带、每列带
+（4 路同地址冲突）                  最多 2 核同读（冲突 4→2）
+

冲突度量与优选规则：

+
$$ +transConflict = \max\big(\lceil C / mCnt \rceil,\; \lceil C / nCnt \rceil\big) \le 6 +$$
+

即同一时刻并发核访问同一 A/B 块的最大冲突数不超过阈值（经验值 6）；切分方案中优先选尾波不满载占比小（拖尾 < 一半）的。遍历大方向由 calOrder 决定（0=M 优先、1=N 优先），按形状选共享矩阵更能驻留 L2 的方向。例：B=64、M=N=2048、K=1024、BF16——$S_{in}$≈537MB > L2，输出直写（$L2_{read}$=128MB），切 3×2=6 块（每块输入约 89MB ≤ 128MB）；总流量约 1.07GB，T_MMAD≈1.27ms，速率 844GB/s < 1.6TB/s ✓。

+

补充：若输出会被后续算子立即消费（融合场景），输出驻留 L2 让下游读命中，场景 B/C 的策略反过来；本文按单算子边界分析。

+

4、核内 tiling：$M^t N^t \cdot 4\text{B} \cdot DB \le L0C$；$M^t K^t \cdot \text{dtype} \cdot 2 \le L0A$、$K^t N^t \cdot \text{dtype} \cdot 2 \le L0B$；内轴按 dValue 256B/512B 对齐；L1 按容量开双缓冲，余量充足开 4 buffer。

+

5、内部特化（参数极限，不是独立分支）：单边无 batch 且该侧矩阵小（$M \le 256$、$MK\cdot\text{dtype}\cdot 2 \le L1$、对侧每核循环 ≥4 轮）时小侧整个常驻 L1、只搬一次（L1 全载）。

+

6、降核模式实现：tiling 时 usedCoreNum = ⌈P⌉（不强制 C），基本块在 L0C 容量内取最大（$M^t N^t \cdot 4\text{B} \le L0C$），每核按标准核内流水（L1→L0→Cube→L0C→Fixpipe）处理自己的输出块；核间无共享无依赖，无需 swizzle 与 L2 切分。降核后 GM 并发搬移核数若 < minCoreNum，带宽利用率上限被压低——这正是降核区 case 时延的瓶颈所在，也是"时延绝对值小、不再继续优化"的定量注脚。

+
+

九、特殊分支

+ +
+

十、case 遍历：各分支的覆盖区域

+

方法论说明

+

采样方式：B ∈ [1, 2048] 全量遍历（2048 个值），M/N/K ∈ [1, 10240] 对数网格采样 60 点/维（值按指数增长：1, 2, 3, 5, 7, 10, 14, 19, 26, 35, ...）。总 case 数 3.2 亿，耗时约 4 分钟。

+

为什么不做全量遍历：全量 = 2048 × 10240³ ≈ 2.2×10¹⁵ 个 case。Python 分类器约需 1400 万小时，C 实现约需 6 万小时——完全不可行。对数采样在小值区密集、大值区稀疏，恰好覆盖了分支边界集中的区域。

+

分布依赖测度：对数均匀采样和线性均匀采样给出的分支占比不同。对数采样在小值区密集，特殊分支（K=0/1）、降核 ASW（P 小）、StreamK（K 大但 M/N 小）的占比被放大；线性采样被大 shape 主导（M/N/K > 512 占 [1,10240] 的 95%+），ASW_Basic 占比显著升高。本文遍历的目的是验证覆盖性（无空洞），不是统计真实工作负载的分布。

+

分支覆盖统计（对数采样，B 全量 2048，M/N/K 60 点/维，共 3.2 亿 case）

+ + + + + + + +
分支case 数占比B 范围区域特征
ASW_Basic1.75 亿54.1%2 ~ 2048通用：B<C 且 P≥C；或 B≥C 但 L1 四形态不满足（M/N 大）
MergeBatch6303 万19.5%97 ~ 2048$b_{core}\ge 4$ 且 $MN \le 8192$ 等五条全过
降核 ASW_Basic4051 万12.6%2 ~ 2048P<C 且 K 不满足 StreamK 阈值 → 只用 ⌈P⌉ 核
IterBatch3804 万11.8%32 ~ 2048B≥C、负载均衡、L1 四形态之一满足
特殊分支597 万1.9%任意K=0 / K=1
StreamK25 万0.08%2 ~ 128P<C/2 且 K≥8192
转Matmul15 万0.05%B=1单边 batch=1
+

对照：线性等距采样（M/N/K 步长 256，B 全量，共 1.3 亿 case）下 ASW_Basic 占比升至 92.1%，MergeBatch 降至 3.6%——因为线性采样被大 shape 主导。两种测度的结论一致：无空分支、无覆盖空洞，只是占比不同。

+

IterBatch 四形态命中分布（对数采样）

+ + + + +
形态命中数占比说明
b) 双 batch 乒乓2684 万70.5%最多：B 大且单 batch 较小
d) 两侧切 K741 万19.5%次之：K 可切段的通用兜底
c) 一侧驻留+对侧切 K370 万9.7%单侧可驻留（含 b_core≥2 的半预算预取档）
a) 单 batch 全驻留9 万0.2%B=C 附近的窄区
+

典型边界 case

+ + + + + + + + + + + +
BMNK分支说明
1204820482048转Matmul单 batch 纯 Matmul
1286464512MergeBatch五条全过：$b_{core}$=4，MN=4096≤8192，单核搬移 512KB≥480KB，AI=64<304
1286464256IterBatch与上行仅 K 不同：单核搬移 256KB < 480KB，条件 3 不满足 → 落 IterBatch（形态 b）
512128128128IterBatchMN=16384 > 8192，MergeBatch 条件 2 不满足 → 落 IterBatch
32409640964096ASW_BasicL1 四形态均不满足（M/N 太大），切 M/N
2819281921024ASW_BasicB<C，P=2048 ≥ 32
16256256128降核 ASWP=4 < 32 且 K=128 不满足 StreamK → 用 4 核，其余闲置
412812810240StreamKP=0.25 < 32，K≥8192
204810241024512IterBatch大 batch，形态 b
8512512512ASW_BasicB<C，P=32 恰好满核
6464648192IterBatch小 M×N 但 K 大，形态 d
+

遍历结论

+
    +
  1. 七个分支全部有真实 case 命中，无空分支；覆盖矩阵无空洞（P<C 且 K 小的残余由降核 ASW_Basic 兜底——此时时延绝对值小，调度开销主导，分支选择不敏感）；
    2. +
  2. **MergeBatch 的区域由条件 2（$MN \le 8192$）与条件 3（min_DatamountPerCore）夹出**：小 M×N 且单核搬移量足够的大 batch case，两个条件缺一不可。典型分界对照：B=128/M=N=64 时 K=256 → 单核搬移 256KB 不达标落 IterBatch，K=512 → 512KB 达标进 MergeBatch；
    3. +
  3. IterBatch 与 ASW_Basic 的分界就是 L1 四形态是否满足：单 batch 输入 $(MK+KN)\cdot\text{dtype}$ 相对 L1 的比例决定归属——这正是"核内零重复读"原则的定量体现；
    4. +
  4. StreamK 的区域为 P<C/2 且 K≥8192：B 小、M/N 小、K 大的"细长" case；C/2 ≤ P < C 且 K 大的 case 由降核 ASW_Basic 承接（切 2 路 K 会超核数，不切又不满核，不如直接用 ⌈P⌉ 核）；
    5. +
  5. 降核 ASW_Basic 是 P<C 且 K 小区域的理性归宿（占 12.6%）：并行度凑不满、切 K 又不划算时，只用 ⌈P⌉ 个核、每核一个 L0C 满载输出块，比强行碎切（tile 跌破搬移效率下限）更快。
    6. +
+
+ + \ No newline at end of file