97 KiB
ASW_Basic 分支：BMM 兜底分支的理论最优实现分析
目标芯片：昇腾 950PR（DAV_3510）。本文为 ASW_Basic 分支的独立分析（v1.7 新增 §5.10 尾轮处理的第二种策略——整轮均匀重切：与尾轮差异化重切的 Bound 分类对比与适用条件判定），自包含完整推导链。历史：v1.6 新增 §7 程序实现流程图；v1.5 扩充 §6 源码对比、修正 dValue 定义与尾轮重切约束。
摘要
ASW_Basic 是 BMM 的兜底分支——核间切 M/N（或混合切），不做 batch 合并或 K 维切分。本文给出完整的时延建模、核间分配策略分析（证明 B 优先分组在任何场景下都不优于线性映射）、实现方案的逐步推导（含尾轮重切的 Bound 类型分级策略），以及与源码实现的逐维度对比。
v1.7 新增 §5.10：尾轮处理三策略（A0 不重切 / A1 仅尾轮差异化重切 / B 整轮均匀重切）的两两对比与适用分界。计算 Bound 与访存 Bound 下分别推导 A0 vs A1、A0 vs B、A1 vs B 的完整时延公式：计算 Bound 下 B 恒不劣于 A1（$\Delta = T_{MMAD}(1/s^* - r/C)$），r \mid C 完美重切时等价、r > C/2 时 A1 失效 B 收益达 $T_{MMAD}(1-r/C)$（数值例 23.4%）；访存 Bound 下搬移随块周长缩放（$\sqrt{g}$），A1 收益被 dValue 与 A 行带不缩小双重压缩，A1 vs B 的分界为 n_{wave}(1-1/\sqrt{g}) vs $(1-1/s^*)/2$（数值例：n_{wave}=2 时 B 省 14.3%、n_{wave}=4 时临界打平、r=17 时 B 省 6.2%）。**总体结论：A0 从来不是最优；r > C/2 时 B 唯一可重切；其余按分界公式判定。**v1.6 新增 §7 程序实现流程图：从 case 输入（B/M/K/N/dtype）出发，分别给出源码 ASW_Basic（BatchMatMulV3AswBasicTiling 六阶段：进入判定 → ResetBase → cubeBound 枚举 → CalL1Tiling → 参数打包 → kernel 滑窗蛇形）与理论最优实现（八阶段：分支判定 → BaseM/N/K → SingleCoreM/N 有界枚举 → 核间分配 → 尾轮重切 → swizzle → L2 分组 → 端到端校验）两张完整流程图，每步标注计算公式与产出参数，并给出两图差异对照。v1.5 扩充 §6 源码对比：cubeBound 模型三项的物理推导（工作集超 L2 倾向更小 tile、K 大倾向更大 tile）、源码 singleCore = base 不分层导致过度切分（K 小时搬入时延可达理论 2 倍）、尾轮不实际重切。核心结论：B 优先分组不优于线性映射；理论的最少切分原则 + SingleCore/Base 分层 + 尾轮重切是相对源码的三条实质改进；源码的 cubeBound 解析模型与平台自适应值得理论吸收。
一、问题定义与执行模型
1.1 分支定位
BMM 中，当 B ≥ C（batch 数 ≥ AIC 核数）时核间切 B 是免费的（每核独立处理若干 batch，无共享无依赖），由 IterBatch/MergeBatch 承接。当 B < C 或 B ≥ C 但 IterBatch/MergeBatch 条件不满足时，需要切 M/N 来填满所有核——这就是 ASW_Basic。
ASW_Basic 是实践中最常命中的分支：B 可大可小可等 1，交叉广播也由此承接（对广播侧做 L1/L2 驻留，共享关系与切 M/N 同构）。
1.2 执行模型
核间：B × mCnt × nCnt 个输出块，按 B→M→N 线性映射分配到 C 核
核内：每核处理若干 [singleCoreM, singleCoreN] 输出块
└── 每块内部：GM→L1→L0→Cube→L0C→Fixpipe 标准流水
└── K 维不切（singleCoreK = K），按 kL1 分块搬入 L1
数据流：
GM ──MTE2──> L1 ──MTE1──> L0A/L0B ──MMAD──> L0C ──Fixpipe──> GM
↑_____________ L2 Cache（读 5.2TB/s）_____________↑
1.3 符号定义
| 符号 | 含义 | 表达式/取值 |
|---|---|---|
B |
batch 数 | 输入参数 |
M, N, K |
矩阵维度 | 输入参数 |
C |
AIC 核数 | 32 |
dtype |
输入元素字节数 | BF16 → 2B |
outB |
输出元素字节数 | BF16 → 2B |
L0C |
L0C 容量/核 | 256KB |
L0A, L0B |
L0A/L0B 容量/核 | 各 64KB |
L1 |
L1 容量/核 | 512KB |
L2 |
L2 容量（共享） | 128MB |
BW_{pc} |
单核 GM 带宽份额 | W_{GM}/C = 50 GB/s |
Q_{16} |
单核 Cube BF16 峰值算力 | 486/32 ≈ 15.2 TFLOPS |
W_{GM} |
GM 带宽 | 1.6 TB/s |
BW_{L2} |
L2 读带宽 | 5.2 TB/s |
Tiling 参数：
| 符号 | 含义 | 约束层级 |
|---|---|---|
\text{BaseM}, \text{BaseN} |
L0 级 tile 的 M/N 维度 | L0C 容量直接约束 |
baseK |
L0 级 tile 的 K 维度 | L0A/L0B 容量约束 |
\text{singleCoreM}, \text{singleCoreN} |
每核输出 tile 的 M/N 维度 | L1 容量 + 并行度 + 搬移效率 |
k_{L1} |
GM→L1 的 K 向粒度 | dValue ≥ 256B |
mCnt, nCnt |
单 batch 内 M/N 向块数 | \lceil M/\text{singleCoreM} \rceil |
W |
swizzle 窗口宽度 | \max\{d : d \mid C, d \le \lfloor\sqrt{C}\rfloor\} |
层次关系：$K = \text{singleCoreK} \ge k_{L1} \ge baseK$，$\text{singleCoreM} \ge \text{BaseM}$，$\text{singleCoreN} \ge \text{BaseN}$。
搬移效率：dValue 与 min_TileSize
GM→L1 搬移使用 Nd2Nz DMA，每次搬移的关键参数：
| 参数 | 含义 | A 矩阵 [singleCoreM, $k_{L1}$] | B 矩阵 [k_{L1}, singleCoreN] |
|---|---|---|---|
| nValue | 行数（非连续维） | singleCoreM | k_{L1} |
| dValue | 每行连续字节数（连续维） | k_{L1} \cdot dtype |
\text{singleCoreN} \cdot dtype |
| 总搬移量 | nValue × dValue | \text{singleCoreM} \cdot k_{L1} \cdot dtype |
k_{L1} \cdot \text{singleCoreN} \cdot dtype |
dValue 是 ND 排布中连续维的字节数——对 ND 格式的右矩阵 B：非转置时连续维为 N，dValue = $\text{singleCoreN} \cdot dtype$；转置时连续维为 K，dValue = $k_{L1} \cdot dtype$。dValue 不是两个维度的乘积。
两级搬移效率阈值：
- dValue ≥ 256B（DMA 硬件突发下限）：每行连续数据量不足 256B 时，DMA 突发效率急剧下降；
- 总搬移量 ≥ min_TileSize（推荐 16KB）：单次搬移量太小则带宽利用率不足（昇腾 950 NPU 架构白皮书推荐 dValue 256B/512B 对齐）。
二、进入条件
同时满足：
- $P = \dfrac{B \cdot MN \cdot 4\text{B}}{L0C} \ge C$（并行度补齐）
- 无 batch 结构限制（BatchA=BatchB、交叉广播均可）；典型进入路径：$B < C$（切 B 买不满核），或
B \ge C但 IterBatch/MergeBatch 条件不满足时的兜底 - 降核模式：
P < C且不满足 StreamK 进入条件 → 只用\lceil P \rceil个核，其余核闲置
逐条解释：
- 并行度补齐：以 L0C 满载为基本块粒度，B×M×N 能切出至少 C 个独立输出块，则切 M/N（或混合切）并行度够用。切 M/N 的固有代价是共享矩阵被多核重复读，但共享部分驻留 128MB L2 时重复读以 5.2TB/s 命中 L2 而非 1.6TB/s 的 GM，代价大部分被吸收。
- 兜底性质：ASW_Basic 是实践中最常命中的分支——B 可大可小可等 1，交叉广播也由此承接（对广播侧做 L1/L2 驻留，共享关系与切 M/N 同构）。
- 降核模式：P < C 且 K 也不够格走 StreamK 时，并行度凑不满核。此时与其强行把 M/N 切得更碎（tile 跌破 min_TileSize、dValue 跌破 256B，搬移效率崩塌，反而更慢），不如只用 ⌈P⌉ 个核、每核承担一个完整输出块（L0C 满载粒度），其余核闲置。这类 case 的时延绝对值小，继续切分引入的调度与搬移效率损失大于并行收益——降核是理性选择而非偷懒。
三、时延建模
3.1 端到端时延
T = \max(T_{MTE2},\; T_{MMAD},\; T_{FIX}) + T_{drain}
| 项 | 含义 | 公式 |
|---|---|---|
T_{MTE2} |
GM→L1 搬移时延 | r_{in} \cdot S_{in} / (C \cdot BW_{pc}) |
T_{MMAD} |
Cube 计算时延 | 2BMNK / (C \cdot Q_{16}) |
T_{FIX} |
输出写回时延 | B \cdot MN \cdot outB / (C \cdot W_{pc}) |
T_{drain} |
末块排空时延 | O(T_{comp} + T_{write}) |
其中 S_{in} = B(MK + KN) \cdot dtype 为输入总量，r_{in} \ge 1 为重复读倍率（GM 输入流量 / 输入总量）。r_{in} = 1 表示每字节只从 GM 读一次（后续复用全命中 L2）——这是 GM 输入流量的下界。
关键观察：T_{MMAD} 和 T_{FIX} 与核间分配策略无关——分配策略只影响 $T_{MTE2}$（通过 L2 命中率影响 $r_{in}$）。优化目标：让 r_{in} 尽量接近 1。
3.2 并行度约束的正确形式
总输出块数 $= B \cdot mCnt \cdot nCnt$。并行度约束的正确形式是：
B \cdot mCnt \cdot nCnt \ge C
即总块数至少能填满 C 核。这与 mCnt \cdot nCnt \ge \lceil C/B \rceil 等价（两边同乘 B 后取整）。
不应要求 $B \cdot mCnt \cdot nCnt ;%; C = 0$（整除）。整除是充分不必要条件——不整除时产生尾轮，尾轮的处理见 §五。
四、核间分配策略分析
4.1 两种候选策略
- B 优先分组：C 核分为 B 组，每组
C_g = \lfloor C/B \rfloor或\lceil C/B \rceil核独立处理一个 batch 的mCnt \times nCnt个块，组内做 swizzle - 线性映射：块按 (b, m, n) 字典序编号（block 0 = (0,0,0)，block 1 = (0,0,1)，…，block
mCnt \cdot nCnt= (1,0,0)，…），核 i 依次处理块 i, i+C, i+2C, …
4.2 L2 工作集对比
每波活跃核所需的 A 行带 + B 列带：
WS_{wave} = \big(W \cdot sM + \tfrac{C}{W} \cdot sN\big) \cdot K \cdot dtype
其中 sM = singleCoreM，sN = singleCoreN，W 为 swizzle 窗口宽度。
| 维度 | B 优先分组 | B→M→N 线性映射 |
|---|---|---|
| 每波活跃 batch 数 | B 个（每组一个） | 1 个（mCnt \cdot nCnt \ge C 时） |
| 每组/每波 swizzle 窗口 | W_g = \max\{d \mid d \mid C_g,\; d \le \sqrt{C_g}\} |
W = \max\{d \mid d \mid C,\; d \le \sqrt{C}\} |
| 每波 L2 工作集 | B \cdot (W_g \cdot sM + \frac{C_g}{W_g} \cdot sN) \cdot K \cdot dtype |
(W \cdot sM + \frac{C}{W} \cdot sN) \cdot K \cdot dtype |
| C 不整除 B | 组间核数不等 → 负载不均 | 无影响（总块数任意） |
数值例（C=32、B=4、sM=sN=256、K=1024、BF16）：分组 $C_g=8$、$W_g=2$（8 的最大因子 ≤ √8≈2.83），总工作集 = 4 \times (2 \times 256 + 4 \times 256) \times 1024 \times 2 = 12 MB；线性 $W=4$，工作集 = (4 \times 256 + 8 \times 256) \times 1024 \times 2 = 6 MB——线性映射的工作集是分组方案的一半。
为什么线性映射工作集更小：
- 更多核参与同一 batch 的 swizzle →
W = \sqrt{C} > W_g = \sqrt{C/B}→ 工作集更接近"方形"下限（均值不等式：W + C/W在W = \sqrt{C}处最小）； - 同一时刻只有 1 个 batch 的数据活跃 → L2 只需缓存 1 份 A/B 数据，而非 B 份。
4.3 分场景严格比较
场景 I：mCnt \cdot nCnt \ge C 且单波工作集 ≤ L2（最常见）
线性映射：每波 C 个块在同一 batch 内，L2 命中率高。B 分组：B 个 batch 同时活跃，总工作集 B 倍。线性严格更优。
场景 II：$S_{in} \le L2$（全部输入放得下 L2）
两种策略的 GM 流量相同（$r_{in} = 1$，每字节只读一次）。但 B 分组在 C % B ≠ 0 时负载不均（组间核数不等）。线性不劣于分组。
场景 III：$mCnt \cdot nCnt < C$（单 batch 块数不够填满所有核）
线性映射：每波横跨 \lceil C/(mCnt \cdot nCnt) \rceil 个 batch——这些 batch 的数据同时活跃。B 分组：每组 C_g 核但只有 mCnt \cdot nCnt < C_g 个块 → 组内有空闲核。线性映射至少所有核都有活干。线性严格更优。
场景 IV：$mCnt \cdot nCnt < C/B$（每组连自己的核都填不满）
B 分组每组空闲 C_g - mCnt \cdot nCnt 个核，总算力浪费 C - B \cdot mCnt \cdot nCnt 个核。线性映射无此问题。线性严格更优。
4.4 结论
B 优先分组在任何场景下都不优于线性映射。 根本原因：
- L2 是共享 Cache，工作集越小命中率越高——线性映射同一时刻只激活 1 个 batch 的数据，工作集最小；
- swizzle 窗口 $W \propto \sqrt{\text{参与核数}}$——更多核参与同一 batch 的 swizzle，窗口更大，工作集更方形；
- 线性映射对 B 与 C 的关系无要求，B 不整除 C 时无负载不均。
因此 ASW_Basic 采用 B→M→N 线性映射作为核间分配策略。
五、实现方案
5.1 BaseM / BaseN 的确定（L0 级 tile，先把 L0C 用满）
L0C 是 Cube 的累加器，BaseM × BaseN 是每次 Cube 计算的输出 tile。BaseM/N 应尽量把 L0C 用满——L0C 利用率越高，每次 Cube 计算的输出越大，单位计算的启动/排空开销摊得越薄。
L0C 双缓冲 vs UnitFlag 单缓冲：
传统做法用 L0C 双缓冲实现 tile 间流水——计算 tile N+1 时，fixpipe 同时写出 tile N：
\text{BaseM} \times \text{BaseN} = \frac{L0C}{2 \times 4\text{B}} = 32768 \text{ 元素（双缓冲）}
但昇腾 950PR 的 Fixpipe 支持 UnitFlag——MMAD 每完成一个 16×16×16 基本块（512B 结果），Fixpipe 立即将其写出，无需等整个 L0C tile 算完。UnitFlag 提供的是 tile 内部的细粒度流水（16×16×16 粒度），替代双缓冲的 tile 间粗粒度流水（BaseM×BaseN 粒度）。
UnitFlag 单缓冲下，L0C 只需一份 buffer：
\text{BaseM} \times \text{BaseN} = \frac{L0C}{4\text{B}} = 65536 \text{ 元素（单缓冲）}
BaseM/N 可放大 \sqrt{2} 倍（如 256→362），mCnt/nCnt 相应减小，L2 重复读率降低（单 batch 块数减少 → 每行 A 被更少的组读取）。
时延对比（单 tile 粒度，BF16 输出）：
| 方案 | tile 大小 | tile 间流水 | tile 内流水 | 单 tile 时延 |
|---|---|---|---|---|
| 双缓冲 | 181×181（32761 元素） | ✓（tile N 写出 ∥ tile N+1 计算） | ✗ | max(T_{comp}, T_{write}) |
| UnitFlag 单缓冲 | 256×256（65536 元素） | ✗ | ✓（16×16×16 粒度） | max(T_{comp}, T_{write}) |
两种方案的稳态时延相同（都是 max(T_{comp}, T_{write})），但 UnitFlag 单缓冲的 tile 更大 → 总 tile 数更少 → 循环开销更小。但当前 BMM ASW kernel 未启用 UnitFlag（unitFlag = 0，注释 "each l0 only process one block, disable unit flag"），且源码在 baseM=baseN=256 时已自动选 dbL0C=1（256×256×4B×2 > L0C）——即源码已经是单缓冲 + 无 UnitFlag，tile 到顶但无流水交叠。
建议：对计算 Bound 的 case 启用 UnitFlag（MMAD 与 Fixpipe 流水并行），可将单 tile 时延从 T_{comp} + T_{write} 降至 $\max(T_{comp}, T_{write})$。对访存 Bound 的 case（MTE2 Bound），UnitFlag 收益小（CANN 文档：MTE2 Bound 时 MMAD/FIX 流水可被搬移掩盖）。
BaseM/BaseN 的长宽比应尽量方形（而非跟随 M/N），对齐 16 的倍数。推导：
1. GM→L1 搬移与 BaseM/N 无关：GM→L1 搬移的是 $[\text{singleCoreM}, k_{L1}]$（A）和 $[k_{L1}, \text{singleCoreN}]$（B），其 dValue 由 $k_{L1}$（A）和 $\text{singleCoreN}$（B）决定——BaseM/N 的长宽比不参与 GM→L1 搬移参数。长宽比跟随 M/N 不会改善 GM→L1 效率。
2. L0A = L0B = 64KB 等容量 → 方形 tile 用满两侧：L0A 装 $\text{BaseM} \times baseK$，L0B 装 $baseK \times \text{BaseN}$。若长宽比跟随 M/N（如 M/N = 4：BaseM=512、BaseN=128），则：
baseK = \min\Big(\frac{L0A}{2 \cdot \text{BaseM} \cdot dtype},\; \frac{L0B}{2 \cdot \text{BaseN} \cdot dtype}\Big) = \min(32,\; 128) = 32
L0A 装满（512×32×2×2 = 64KB）而 L0B 只用了 25%（32×128×2×2 = 16KB）——一半 L0 容量闲置。
方形 tile（BaseM=BaseN=256）：
baseK = \min\Big(\frac{64\text{KB}}{2 \cdot 256 \cdot 2\text{B}},\; \frac{64\text{KB}}{2 \cdot 256 \cdot 2\text{B}}\Big) = 64
L0A 和 L0B 同时装满，且 baseK = 64 是长宽比跟随方案（baseK=32）的 2 倍——K 维迭代次数减半，Cube 的 K 向流水切换和 SetFlag/WaitFlag 同步次数减半（L1→L0 搬移本身不是瓶颈，但更少的迭代意味着更少的同步握手和更少的 MMAD 启动/排空轮次）。
3. 方形 tile 是 L0C 面积约束下的最优：L0C 约束 \text{BaseM} \times \text{BaseN} \le 65536 只限制面积。在面积固定下，方形使 \min(\text{BaseM}, \text{BaseN}) 最大——baseK 的上限由 \min(\text{BaseM}, \text{BaseN}) 决定（公式见上），所以方形最大化 baseK。
4. 例外：当 M 或 N 小于方形边长时，tile 被迫非方形：
\text{BaseM} = \min(\lfloor\sqrt{65536}\rfloor_{16},\; M),\qquad \text{BaseN} = \min\Big(\frac{65536}{\text{BaseM}},\; N\Big) \text{ 向下 16 对齐}
例：M=128、N=4096 → BaseM=128（M 限制）、BaseN=512（L0C 面积限制）——此时长宽比跟随 M/N 是被迫的（M 太小），而非主动选择。
结论：BaseM/N 长宽比跟随 M/N 的切分方法站不住脚——它使 L0A/L0B 容量利用率失衡（一侧闲置）、baseK 减半（K 迭代翻倍）、且对 GM→L1 搬移无任何收益。正确做法是方形 tile 优先，仅当 M 或 N 小于方形边长时被迫跟随。
baseK 由 L0A/L0B 容量决定（L1→L0 搬移无 dValue 要求，dValue 约束的是 GM→L1 的 $k_{L1}$）：
baseK = \min\Big(\frac{L0A}{2 \cdot \text{BaseM} \cdot \text{dtype}},\; \frac{L0B}{2 \cdot \text{BaseN} \cdot \text{dtype}}\Big) \text{ 向下 16 对齐}
核间不切 K 时 K 维度层次关系：$K = \text{singleCoreK} \ge k_{L1} \ge baseK$——k_{L1} 是 GM→L1 的 K 向粒度（须 $k_{L1} \cdot \text{dtype} \ge 256\text{B}$），baseK 是 L1→L0 的 K 向粒度（仅受 L0A/L0B 容量约束）。
BaseM/N 的具体确定过程（host 端枚举，16 对齐遍历）：
- 从 BaseM = BaseN =
\lfloor\sqrt{L0C/4\text{B}}\rfloor_{16} = 256开始（方形，L0C 单缓冲上限，L0A/L0B 同时满载） - baseK 取 L0A/L0B 容量允许的最大值：baseK =
\min(L0A/(2 \cdot \text{BaseM} \cdot dtype),\; L0B/(2 \cdot \text{BaseN} \cdot dtype))向下 16 对齐（16 对齐是 Cube K 向粒度要求，不是搬移效率要求——L1→L0 搬移不是瓶颈，可被 GM→L1 或 Cube 计算掩盖。baseK 取大值的意义在 L0 容量利用率和 K 迭代次数，而非搬移效率） - 若 M < 256（或 N < 256），BaseM = $\lfloor M \rfloor_{16}$（或 BaseN = $\lfloor N \rfloor_{16}$），另一维取 $\min(65536/\text{BaseM},; N)$（或对称）向下 16 对齐——此时 tile 被迫跟随 M/N，但这是 M 太小的结果，不是主动选择
- 方形 tile 的 L0C 面积利用率：$256 \times 256 / 65536 = 100%$；被迫非方形时面积利用率 = $\text{BaseM} \times \text{BaseN} / 65536$（M 或 N 小时必然 < 100%，不可优化）
与源码的差异：源码默认 baseM=baseN=256（硬编码 "256 is better base"），再由 cubeBound 模型（L2 供数能力 + 溢出惩罚 + K 向复用）枚举收缩。理论直接从 L0C 容量出发，cubeBound 的三项修正可从第一性原理推导：①L2 供数速率 vs Cube 耗数速率 → 访存 Bound 时应缩 tile；②工作集超 L2 → 增大 tile 减少重复读；③K 越大越偏 compute bound → 可放大 tile。两者方向一致，源码多了实测调优的余量（CUBE_BOUND_RATIO=0.85）。
5.2 SingleCoreM / SingleCoreN 的确定（每核输出 tile，≥ BaseM/N）
SingleCoreM × SingleCoreN 是每核每次处理的输出区域，不受 L0 容量直接约束——一个 [SingleCoreM, SingleCoreN] tile 内部由若干 [BaseM, BaseN] L0 tile 组成（$\text{SingleCoreM} \ge \text{BaseM}$，$\text{SingleCoreN} \ge \text{BaseN}$）。SingleCoreM/N 的核心影响是 GM→L1 搬移效率和 L2 重复读率：
- SingleCoreM/N 越大 → 单次 GM→L1 搬移量越大，dValue 越有保障，L2 中同一份 A 行带/B 列带被更多核复用
- SingleCoreM/N 越小 → 总块数 mCnt×nCnt 越多，并行度越高，但搬移效率降低
SingleCoreM/N 对 L2 重复读的定量影响：
每行 A 行带 [\text{singleCoreM}, K] 被该行的 nCnt 个列块各读一次，每列 B 列带被 mCnt 个行块各读一次。L2 层的总读取次数：
T_{L2} = \big(nCnt \cdot M + mCnt \cdot N\big) \cdot K \cdot dtype
SingleCoreM/N 越小 → $mCnt = \lceil M/\text{singleCoreM} \rceil$、nCnt = \lceil N/\text{singleCoreN} \rceil 越大 → T_{L2} 越大。
但这不直接等于 GM 重复读——L2 命中时重复读由 L2 吸收（5.2TB/s），不消耗 GM 带宽。GM 重复读倍率 r_{in} 取决于执行组划分（§5.6）：只有当工作集超 L2 时才需要分组，此时
r_{in} = \frac{\lceil nCnt/n_{grp} \rceil \cdot M + \lceil mCnt/m_{grp} \rceil \cdot N}{M + N}
$m_{grp}$、n_{grp} 由 L2 容量约束反推（$m_{grp} \cdot \text{singleCoreM} + n_{grp} \cdot \text{singleCoreN} \le D$，$D = L2/(B \cdot K \cdot dtype)$）。SingleCoreM/N 减小时 $m_{grp}$、n_{grp} 按比例增大，\lceil mCnt/m_{grp} \rceil 和 \lceil nCnt/n_{grp} \rceil 的变化取决于具体数值——但 L2 带宽不是瓶颈（5.2TB/s ≫ GM 1.6TB/s），所以 SingleCoreM/N 对性能的主要影响不在 L2 重复读，而在 GM→L1 搬移效率（dValue 和 min_TileSize）和并行度（$mCnt \cdot nCnt \ge \lceil C/B \rceil$）之间的权衡。
约束链：
约束 1——并行度下限：总块数须填满 C 核。
B \cdot mCnt \cdot nCnt \ge C \iff mCnt \cdot nCnt \ge \Big\lceil \frac{C}{B} \Big\rceil
约束 2——L1 容量（双缓冲下驻留当前 tile 的输入）：
2 \cdot (\text{singleCoreM} + \text{singleCoreN}) \cdot k_{L1} \cdot \text{dtype} \le L1,\qquad k_{L1} \cdot \text{dtype} \ge 256\text{B}
约束 3——搬移效率（dValue 见 §1.4）：
\underbrace{k_{L1} \cdot \text{dtype} \ge 256\text{B}}_{\text{A 矩阵 dValue}},\qquad \underbrace{\text{singleCoreN} \cdot \text{dtype} \ge 256\text{B}}_{\text{B 矩阵 dValue（非转置）}}
\underbrace{\text{singleCoreM} \cdot k_{L1} \cdot \text{dtype} \ge min\_TileSize}_{\text{A 单次搬移量}},\qquad \underbrace{k_{L1} \cdot \text{singleCoreN} \cdot \text{dtype} \ge min\_TileSize}_{\text{B 单次搬移量}}
约束 4——SingleCoreM/N 是 BaseM/N 的整数倍（工程实现要求，保证 L0 tile 边界对齐）。
选取策略：最少切分原则 + 切分时方形分配。
建模：每 batch 有 mCnt \cdot nCnt 块，每块的 GM→L1 搬入（A 块 [\text{singleCoreM}, k_{L1}] + B 块 $[k_{L1}, \text{singleCoreN}]$）时延为 $(\text{singleCoreM} + \text{singleCoreN}) \cdot k_{L1} \cdot dtype / BW$。每核处理 B \cdot mCnt \cdot nCnt / C 块，单核总搬入时延：
T_{MTE2} = \frac{MN}{C/B} \cdot \Big(\frac{mCnt}{M} + \frac{nCnt}{N}\Big) \cdot \frac{k_{L1} \cdot dtype}{BW}
（展开验证：每 batch 总搬入 = $(M \cdot nCnt + N \cdot mCnt) \cdot k_{L1} \cdot dtype$——A 矩阵每 batch 被 nCnt 个列块共享读 nCnt 次、B 矩阵被 mCnt 个行块共享读 mCnt 次，与直觉一致。）
目标函数 mCnt/M + nCnt/N 在 mCnt = nCnt = 1 时取得全局最小值（$1/M + 1/N$）——不切分时每 batch 的 A/B 只搬一次，零重复读。因此第一步是尝试最少切分：
mCnt \cdot nCnt = \Big\lceil \frac{C}{B} \Big\rceil \triangleq P
（多切无益：切分越多重复读越多，搬入量单调增大。）
情形 1：B ≥ C（P = 1）——不切分，$mCnt = nCnt = 1$，$\text{singleCoreM} = M$、$\text{singleCoreN} = N$。tile 跟随 M/N，非方形。前提是 L1 容量与 dValue 满足（约束 2/3）；不满足时须 K 分块（$k_{L1} < K$）或退化为情形 2。
情形 2：B < C（P > 1）——必须切分。在 mCnt \cdot nCnt = P 下最小化 $mCnt/M + nCnt/N$：
\frac{\partial}{\partial mCnt}\Big(\frac{mCnt}{M} + \frac{P}{mCnt \cdot N}\Big) = 0 \Rightarrow mCnt^* = \sqrt{\frac{P \cdot M}{N}},\; nCnt^* = \sqrt{\frac{P \cdot N}{M}}
\frac{mCnt^*}{nCnt^*} = \frac{M}{N} \Rightarrow \text{singleCoreM} = \text{singleCoreN} = \sqrt{\frac{MN}{P}}
——方形（连续松弛下的理论最优）。整数 + BaseM/N 对齐约束下取离方形最近的可行组合。
数值验证（M=2048、N=512、C=32）：
| B | P = ⌈C/B⌉ | 最优 (mCnt, nCnt) | sM × sN | 形状 |
|---|---|---|---|---|
| 32 | 1 | (1, 1) | 2048 × 512 | 跟随 M/N（不切分） |
| 16 | 2 | (2, 1) | 1024 × 512 | 2:1（整数约束偏离方形） |
| 8 | 4 | (4, 1) | 512 × 512 | 方形（M/N=4 与 P=4 匹配） |
| 4 | 8 | (4, 2) | 512 × 256 | 2:1 |
B=32 时不切分 cost = 0.002441 < B=8 时方形 0.003906——切分越少搬入越少，方形只是"被迫切分"时的次优选择。用户反例成立：M=2048、N=512、B≥32 时 SingleCoreM=2048、SingleCoreN=512 优于方形 512×512（每 batch 零重复读）。
此前推导的错误：把 mCnt \cdot nCnt = P 当作固定等式且未讨论 P=1 的情形——方形结论只适用于 B < C 的强制切分场景，不适用于 B ≥ C 的不切分场景。
SingleCoreM/N 的具体确定过程（host 端枚举，与尾轮处理联动）：
-
计算最少切分
P = \lceil C/B \rceil -
若 P = 1（B ≥ C）：先试不切分 $mCnt = nCnt = 1$、$\text{singleCoreM} = M$、$\text{singleCoreN} = N$；由约束 2 求 $k_{L1} = \min(K,; \lfloor L1/(2(M{+}N) \cdot dtype) \rfloor_{16})$，检查约束 3（
k_{L1} \cdot dtype \ge 256\text{B}等）；满足则确定。不满足（L1 放不下且k_{L1}降无可降）则进入步骤 3 强制切分 -
若 P > 1（必须切分）——完整枚举。枚举不是随意挑几个组合试，而是遍历整个可行空间、每个候选计算搬入时延、取最优：
a. 枚举空间（有界）：由约束 4 给出上界 $mCnt \le \lceil M/\text{BaseM} \rceil$、$nCnt \le \lceil N/\text{BaseN} \rceil$（SingleCore 不能小于 Base），约束 1 给出 $B \cdot mCnt \cdot nCnt \ge C$。候选数最多 $\lceil M/\text{BaseM} \rceil \times \lceil N/\text{BaseN} \rceil$（如 M=N=4096、Base=256 时 256 个），host 端遍历开销可忽略
b. 每个候选的评估流水线（
(mCnt, nCnt) \to对齐\to约束过滤\to目标值）：\text{singleCoreM} = \text{Align}_{16}\Big(\Big\lceil \frac{M}{mCnt} \Big\rceil\Big),\qquad \text{singleCoreN} = \text{Align}_{16}\Big(\Big\lceil \frac{N}{nCnt} \Big\rceil\Big)约束 4 过滤：singleCoreM/singleCoreN 是 BaseM/BaseN 的整数倍；约束 2 求 $k_{L1}$：
k_{L1} = \min\Big(K,\; \Big\lfloor \frac{L1}{2 \cdot (\text{singleCoreM} + \text{singleCoreN}) \cdot dtype} \Big\rfloor_{16}\Big)约束 3 过滤：
k_{L1} \cdot dtype \ge 256\text{B}且\text{singleCoreM} \cdot k_{L1} \cdot dtype \ge min\_TileSize且k_{L1} \cdot \text{singleCoreN} \cdot dtype \ge min\_TileSize目标值（§3 时延模型的搬移项）：
T_{MTE2} = \frac{MN}{C/B} \cdot \Big(\frac{1}{\text{singleCoreM}} + \frac{1}{\text{singleCoreN}}\Big) \cdot \frac{k_{L1} \cdot dtype}{BW_{pc}}c. 为什么目标函数是 $T_{MTE2}$：
T_{MMAD} = 2BMNK/(C \cdot Q_{16})与T_{FIX} = B \cdot MN \cdot outB/(C \cdot W_{pc})只依赖全量 B/M/N/K，与切分无关——候选之间的唯一差异在搬入时延（§3）。约束 2/3/4 只是可行性过滤，不足以选最优：多个可行解的T_{MTE2}可差 2 倍（§6.3 源码过度切分示例）d. 最优选取：通过全部约束的候选中取
T_{MTE2}最小者；并列时取尾轮块数r = B \cdot mCnt \cdot nCnt \bmod C最大者（尾轮块越多，§5.3 重切的s^*越小、越省） -
尾轮修正：
n_{wave} = \lceil B \cdot mCnt \cdot nCnt / C \rceil \le 3且r > 0时，按 §5.3 计算重切因子 $s^$，尾轮时延 $T_{tail} = T_{block}/s^$；否则 $T_{tail} = T_{block}$（r=0 时为 0） -
端到端校验：$T = \max(T_{MTE2},; T_{MMAD},; T_{FIX}) + T_{tail}$。若选出的候选 $T_{MTE2} < T_{MMAD}$（搬移被计算掩盖），候选间差异失效，此时以尾轮最优者为准
完整实例（B=8、M=N=2048、K=1024、BF16，BaseM=BaseN=256、$min_TileSize$=16KB）：
- $P = \lceil 32/8 \rceil = 4$，进入步骤 3。枚举空间 $mCnt, nCnt \le \lceil 2048/256 \rceil = 8$，
8 \cdot mCnt \cdot nCnt \ge 32 - 枚举与评估：
| (mCnt, nCnt) | sM × sN | $k_{L1}$（约束 2 上限，16 对齐） | 约束 3 过滤 | T_{MTE2} \propto (1/sM + 1/sN) \cdot k_{L1} |
|---|---|---|---|---|
| (2, 2) | 1024 × 1024 | 64（128B） | ✗ dValue < 256B | — |
| (4, 2) | 512 × 1024 | 80（160B） | ✗ | — |
| (4, 4) | 512 × 512 | 128（256B） | ✓（512×128×2 = 128KB ≥ 16KB） | 0.500 |
| (8, 4) | 256 × 512 | 160（320B） | ✓ | 0.938 |
| (4, 8) | 512 × 256 | 160 | ✓ | 0.938 |
| (8, 8) | 256 × 256 | 256（512B） | ✓ | 2.000 |
k_{L1} 上限公式：$\lfloor 131072/(sM{+}sN) \rfloor$（131072 = L1/(2·dtype) = 512KB/4B）。评估过程展示三个要点：
- 最少切分 (2,2) 不可行：
k_{L1} \le 64元素 = 128B，违反 dValue ≥ 256B——若只做约束 1（并行度）检查会在 (2,2) 上误判达标，必须连同约束 2/3 一起过滤； - 多个候选通过约束：(4,4)、(8,4)、(4,8)、(8,8) 都满足约束 2/3/4——约束检查不足以选最优，必须计算目标函数；
- 目标函数
T_{MTE2}定最优：拉格朗日方形点 (4,4) 的搬入时延 0.500 最小（比 (8,4) 省 47%、比 (8,8) 省 75%）。注意此处k_{L1}是变量（K=1024 未截断、由 L1 容量决定），故T_{MTE2} \propto (1/sM + 1/sN) \cdot k_{L1}而非 §5.2 的简化式 $(1/sM + 1/sN)$。最终 (4,4)：总块数 $8 \times 16 = 128$，r = 128 \bmod 32 = 0完美整除、无尾轮
与源码的差异：源码用 cubeBound 模型 + balanceRate ≥ 0.9 剪枝，不解耦 SingleCoreM/N 与 BaseM/N（baseM=256 已是 SingleCore 级参数，L0 tile 由 stepM/stepN 二次切分），且枚举目标为"算存比/负载均衡帕累托"而非"搬入时延最小"。理论的两层分离使约束链更清晰、目标函数（$T_{MTE2}$）有闭式表达——SingleCoreM/N 由 L1 + 并行度 + 搬移效率决定，BaseM/N 由 L0C 决定，各司其职。
5.3 mCnt / nCnt 与核间分配（含尾轮处理）
mCnt = \Big\lceil \frac{M}{\text{singleCoreM}} \Big\rceil,\qquad nCnt = \Big\lceil \frac{N}{\text{singleCoreN}} \Big\rceil
总输出块数 = $B \times mCnt \times nCnt$。核间分配采用 B→M→N 线性映射（分析见 §四）：块按 (b, m, n) 字典序编号，核 i 处理块 i, i+C, i+2C, …。B 不整除 C 时尾波不满载的核少分一块，无需 B | C。
尾轮处理（host 端预处理，零 NPU 开销）：
尾轮定义
当 B \cdot mCnt \cdot nCnt \;\%\; C \neq 0 时，总块数不能被 C 整除，最后一波（尾轮）不满载——只有 B \cdot mCnt \cdot nCnt \;\%\; C 个核有活干，其余核空闲。
尾轮重切：是否值得？
关键前提：tiling 在 host（CPU）上完成，不占 NPU 时间。 重切只需 host 多算一套 tiling 参数下发给 NPU，零 NPU 开销。这改变了收益/代价的平衡——重切的代价仅为 host 端多一次枚举，而收益是 NPU 端尾波时延的缩短。
不重切时：尾波 r 个块用 r 个核，每核处理 1 块，时延 = $T_{block}$，C - r 核空闲。
重切时：把 r 个块沿 M 或 N 维再切 s 份，变成 r \cdot s 个小块，r \cdot s 个核各处理 1 小块，时延 ≈ $T_{block}/s$（每小块计算量/搬移量/写回量均为原块的 $1/s$）。
重切收益：
\Delta T_{saved} = T_{block} \cdot \Big(1 - \frac{1}{s}\Big)
占总时延比例：
\frac{\Delta T_{saved}}{T_{total}} \approx \frac{1 - 1/s}{n_{wave}}
$n_{wave} = 2$、s = C/r 时：r=16 → 收益 25%；r=8 → 收益 37.5%。n_{wave} = 3 时：r=16 → 16.7%；r=8 → 25%。n_{wave} \le 3 时收益显著，应重切。
重切约束的推导：沿 N 切 s 份后，小块变为 $[\text{singleCoreM},; \text{singleCoreN}/s]$。小块须满足两类约束——但约束的严格程度取决于算子是访存 Bound 还是计算 Bound。
访存 Bound（$T_{MTE2} \ge T_{MMAD}$）：搬移是瓶颈，小块的 dValue 和搬移量不能降——否则搬移更慢，总时延反而增加。约束与主 tile 相同：
- dValue 下限：B 矩阵 dValue = $\text{singleCoreN}_{tail} \cdot dtype \ge 256\text{B}$（沿 N 切时）：
s \le \frac{\text{singleCoreN} \cdot dtype}{256\text{B}}
- 单次搬移量：$k_{L1} \cdot \text{singleCoreN}_{tail} \cdot dtype \ge min_TileSize$：
s \le \frac{k_{L1} \cdot \text{singleCoreN} \cdot dtype}{min\_TileSize}
- 对齐：$\text{singleCoreN}_{tail} \ge 16$：
s \le \frac{\text{singleCoreN}}{16}
计算 Bound（$T_{MMAD} > T_{MTE2}$）：搬移被计算掩盖，dValue 和搬移量约束可放宽——即使搬移效率降低，只要搬移时间仍 ≤ 计算时间，总时延不变。放宽的定量依据：
小块计算时延 $T_{comp}^{tail} = 2 \cdot \text{singleCoreM} \cdot \text{singleCoreN}{tail} \cdot K / Q{16}$，搬移时延 $T_{load}^{tail} = (\text{singleCoreM} + \text{singleCoreN}{tail}) \cdot k{L1} \cdot dtype / BW_{pc}$。搬移被掩盖的条件：
T_{load}^{tail} \le T_{comp}^{tail} \iff \text{singleCoreN}_{tail} \ge \frac{\text{singleCoreM} \cdot k_{L1} \cdot dtype \cdot Q_{16}}{BW_{pc} \cdot (2 \cdot \text{singleCoreM} \cdot K - k_{L1} \cdot dtype \cdot Q_{16} / BW_{pc})}
记右端为 $x_{min}$（搬移掩盖下限），则计算 Bound 下的约束为：
s \le \min\Big(\frac{\text{singleCoreN}}{x_{min}},\; \frac{\text{singleCoreN}}{16}\Big)
计算 Bound 越严重（K 越大），x_{min} 越小，s 上限越大——极端情况 $x_{min} \to 16$（对齐底线），$s \le \text{singleCoreN}/16$。
例（singleCoreM=singleCoreN=256、$k_{L1}$=128、K=1024、BF16）：$x_{min} = 256 \times 128 \times 2 \times 15.2 \times 10^{12} / (50 \times 10^9 \times (2 \times 256 \times 1024 - 128 \times 2 \times 15.2 \times 10^{12} / 50 \times 10^9)) \approx 1$——几乎无约束，$s \le 256/16 = 16$。
最优切分因子：先判定 Bound 类型（T_{MMAD} vs $T_{MTE2}$），再选约束集：
s^* = \min\Big(\Big\lfloor \frac{C}{r} \Big\rfloor,\; s_{max}\Big),\qquad s_{max} = \begin{cases} \min\big(\frac{\text{singleCoreN} \cdot dtype}{256\text{B}},\; \frac{k_{L1} \cdot \text{singleCoreN} \cdot dtype}{min\_TileSize},\; \frac{\text{singleCoreN}}{16}\big) & \text{访存 Bound} \\ \frac{\text{singleCoreN}}{16} & \text{计算 Bound} \end{cases}
例（C=32、$N_{blk}=40$、$n_{wave}=2$、$r=8$、singleCoreM=singleCoreN=256、$k_{L1}$=128、BF16）：
- 访存 Bound（K 小）：dValue $s \le 2$，搬移量 $s \le 4$，对齐 $s \le 16$。$s^* = 2$——dValue 瓶颈，16 核满载，尾波减半，总时延节省 25%。
- 计算 Bound（K 大）：$x_{min} \approx 1$，$s^* = \min(4, 16) = 4$——32 核满载，尾波降为 1/4，总时延节省 37.5%。
切分方向选择：优先沿 N 切（保持 A 行带完整，L2 中 A 数据不变）。计算 Bound 下若 N 向对齐卡住（$\text{singleCoreN}/16 < C/r$），改沿 M 切（A 矩阵 dValue = k_{L1} \cdot dtype 不变，仅受对齐约束 $\text{singleCoreM}/16$）。
结论：n_{wave} \le 3 且 r < C 时应重切尾轮——host 端零代价，NPU 端收益 $T_{block}(1-1/s^*)$。n_{wave} \ge 4 时收益 < 25%，可不重切（通过选择使尾波占比小的 mCnt/nCnt 组合来优化）。
尾轮影响的量化
设总块数 $N_{blk} = B \cdot mCnt \cdot nCnt$，总波数 $n_{wave} = \lceil N_{blk} / C \rceil$，尾波块数 $r = N_{blk} \bmod C$（r = 0 时无尾波）。
不重切时尾波导致的额外时延（相对于完美整除）：
\Delta T_{tail} = \begin{cases} 0 & r = 0 \\ T_{block} \cdot \big(1 - \frac{r}{C}\big) & r > 0 \end{cases}
重切后尾波时延降为 $T_{block}/s^*$，额外时延：
\Delta T_{tail}^{re} = \frac{T_{block}}{s^*} \cdot \Big(1 - \frac{r \cdot s^*}{C}\Big)
当 $r \cdot s^* = C$（完美重切）时 $\Delta T_{tail}^{re} = 0$——尾波完全消除。
5.4 核间切分维度选择（按共享代价从低到高）
切 B（零共享，先试）→ 切 M（右矩阵 KN\cdot\text{dtype} \le L2 则驻留 L2）→ 切 N（对称）→ 混合切（靠 swizzle + L2 切分管理）→ 降核（见 Step 8）。
5.5 swizzle——ASW 滑窗蛇形
问题：核间切 M/N 后，同一时刻 C 个核各算一个输出块，它们所需的 A 行块与 B 列块集合就是当前"活跃工作集"。若按行优先顺序朴素分配，一波 C 个块横跨的 A 行、B 列很宽，活跃工作集超过 L2 就回 GM 读（1.6TB/s），重复读代价真实发生。swizzle 要做的就是编排输出块的执行顺序，把每一波核的活跃工作集压到最小。
做法：把 M 向每 W 个基本块划为一个"窗口"，遍历顺序为"窗口内先扫 M、扫满 W 行再进下一列 N；一个窗口扫完再进下一个窗口"，且奇数窗口行 N 向反向（蛇形）。效果有二：
- 同一波 C 个核的块集中在同一个窗口内 ⇒ 活跃 A 行块只有 W 个、活跃 B 列块只有 C/W 条带；
- 蛇形反向使相邻窗口行首尾相接——上一窗口末尾的 B 列带与下一窗口开头的 B 列带是同一条，跨窗口切换时工作集增量最小。
W 怎么取：一波 C 个块的 L2 足迹约为
footprint \approx \big(W \cdot M^t K + \tfrac{C}{W} \cdot K N^t\big) \cdot \text{dtype}
由均值不等式，W + C/W 在 W = \sqrt{C} 处取最小——窗口越接近"方形"（W 行 × C/W 列），足迹越小。同时 W 须整除 C，保证每个窗口恰好被整数波核覆盖、窗口边界不把波次切碎。合起来即：
W = \max\{\,d \mid d \mid C,\; d \le \lfloor\sqrt{C}\rfloor\,\}
C=32 时 $\sqrt{32} \approx 5.66$，因子 {1,2,4,8,…} 中不超过它的最大者是 4，故 W=4。
实例（C=32，W=4，M̃=8，Ñ=8；数字为块的全局执行顺序，一波 32 块）：
窗口0（N 正向） 窗口1（N 蛇形反向）
ν0 ν1 ν2 … ν7 ν0 ν1 … ν7
μ0 0 4 8 … 28 μ4 60 56 … 32
μ1 1 5 9 … 29 μ5 61 57 … 33
μ2 2 6 10 … 30 μ6 62 58 … 34
μ3 3 7 11 … 31 μ7 63 59 … 35
块 31 = (μ3, ν7)，块 32 = (μ4, ν7)——相邻两个块共用同一条 B 列带（ν7），窗口切换几乎零增量。对比朴素行优先（Ñ=16 时）：一波横跨 2 个 A 行块 + 16 条 B 列带，足迹 (2·M^t + 16·N^t)·K·dtype；滑窗为 (4·M^t + 8·N^t)·K·dtype——M^t≈N^t 时足迹缩小 1/3。
窗内为什么不蛇形（对上例中"块 3=(μ3,ν0) → 块 4=(μ0,ν1) 而非 (μ3,ν1)"的说明）：蛇形的收益来自"相邻遍历段共享边界数据"，要分两种边界看：
- 窗内列间边界（ν0→ν1）：相邻两段共享的是同一组 A 行块（W 个），它们在整个窗口期间全程驻留 L2，无论按什么顺序扫，工作集不变——窗内蛇形零收益；
- 窗口行边界（窗口0→窗口1）：A 行整体换血（μ0..3 → μ4..7），此时 B 列带的连续性决定换血成本——不蛇形则下一窗口从 ν0 开始（LRU 上最久未用、早已被挤出 L2 的冷带），蛇形则延续上一窗口末尾的 ν7（最热线带）。蛇形只标在窗口行号上（源码
BatchMatMulAswBlock::UpdateBasicIndex：仅rowIdx为奇时 n 反向，窗内 m 最快序不反向），正是这个收益结构的直接实现。
5.6 L2 分组（工作集超 L2 时）
切的是什么：将 mCnt×nCnt 个基本块划分为若干执行组——每组覆盖输出平面上一个连续矩形区域（若干 singleCoreM × singleCoreN 基本块的集合），使该组所需的 A 行带 + B 列带输入工作集 ≤ L2 可用读入空间；组内所有基本块算完再进下一组，输入只在跨组时换一次。
为什么需要它：滑窗压缩的只是"同一波"的足迹；若整个工作集超 128MB L2，跨波次复用落空——上一波窗口的 A 行早被挤出，下一波又得回 GM 读。且 L2 是读写共用的：输出经 fixpipe 写出时若驻留 L2（dirty），会压缩读入可用空间；若直写 GM，则占用与读共享的 1.6TB/s 总线。所以 L2 切分必须与写出策略联合决策。记输入总量 $S_{in} = B(MK+KN)\cdot\text{dtype}$，输出总量 $S_{out} = B \cdot MN \cdot outB$。
两个不变量（一切分析的起点）：
- GM 流量下界 $= S_{in} + S_{out}$：输入至少读一遍、输出最终至少要写一遍到 GM，与 L2 策略无关；
- L2 读入可用空间：$L2_{read} = L2 - S_{out}^{resident}$（
S_{out}^{resident}为驻留 L2 的输出量）——写出驻留 L2 会压缩读入空间，这是写出策略影响读入复用的通道。
重复读倍率：r_{in} = GM 输入流量 / $S_{in}$。r_{in} = 1 表示每个输入数据从 GM 只读一遍（后续复用全在 L2 命中）——这是 GM 输入流量的下界，L2 管理的全部目标就是让 r_{in} 尽量接近 1。
先判定写出会不会 Bound。平均写出带宽需求：
BW_{out} = \frac{S_{out}}{T_{MMAD}} = \frac{B \cdot MN \cdot outB}{2BMNK\,/\,(C \cdot Q_{16})} = \frac{C \cdot Q_{16} \cdot outB}{2K}
只与 K、outB 有关（K 越小，单位时间输出越密）。例（BF16 输出，C·Q₁₆=432 TFLOPS）：K=512 → 844 GB/s；K=256 → 1.69 TB/s，已超 GM 总线——此时任何策略都写出 Bound，L2 缓冲只能削峰（fixpipe 以 5.2TB/s 写 L2 吸收突发），平均速率仍受总线限制，应预期 Fixpipe 成为 T_{total} 的 max 项。
分场景决策：
场景 A：$S_{in} + S_{out} \le L2$（全驻留）。输入读一遍（$r_{in}=1$），输出驻留 L2（dirty）异步回写 GM——写出走 5.2TB/s L2 写口，不与读争，也削平了 GM 写突发。无需切分。
场景 B：S_{in} \le L2 但 $S_{in} + S_{out} > L2$（输入能驻留，加上输出超了）。策略：输入驻留、输出直写 GM。理由链：
S_{in} \le L2⇒ 全部输入可驻留 L2，跨波次复用全部命中 ⇒ $r_{in} = 1$（GM 输入流量达到下界 $S_{in}$）；- 输出在本算子内只写不读、零复用收益；若输出也驻留 L2（dirty），超出 L2 的部分会把输入挤出——被挤出的输入后续得回 GM 重读 ⇒ $r_{in} > 1$，GM 流量超出下界；
- 故让输出直写 GM（fixpipe L0C→GM，不占 L2），把 128MB 全部留给输入，保住 $r_{in} = 1$——GM 总流量保持下界 $S_{in} + S_{out}$；
- 代价是输出即刻占用 GM 写带宽（与读共享总线），须校验总线不爆：$(S_{in} + S_{out})/T_{MMAD} \le W_{GM}$。
例：B=8、M=N=4096、K=512、BF16——$S_{in}$≈67MB ≤ L2，$S_{out}$≈268MB 直写 GM；T_MMAD≈318µs，总流量速率 (67+268)MB/318µs ≈ 1.05TB/s < 1.6TB/s ✓。
场景 C：$S_{in} > L2$（输入本身超）。需要分组执行——把 mCnt×nCnt 个基本块划分为若干执行组，每组内所有基本块的输入工作集不超过 L2 可用空间。输出直写 GM（不占 L2 读入空间）。
L2 的软件可控手段：L2 是 Cache 而非 Buffer，软件无法精确控制"哪些数据在 L2 里"。可用的控制手段：
- Cache Hint（
SetL2CacheHint）：标记输入为 allocate（读入 L2）或 non-allocate（直读 GM 不过 L2）；标记输出为 non-allocate（直写 GM 不占 L2）； - CMO（Cache Maintenance Operation）：Prefetch/Writeback/Invalidate，在关键节点主动管理 L2 内容；
- 执行顺序（swizzle）：通过编排基本块的执行顺序，控制同一时刻的活跃工作集——这是最主要的 L2 管理手段。
执行组的划分：
问题：mCnt×nCnt 个基本块（每块输出 singleCoreM×singleCoreN），按什么粒度分组，使每组的输入工作集 ≤ L2？
每组输入工作集：一组覆盖 M 向 m_{grp} 个基本块、N 向 n_{grp} 个基本块，即覆盖输出区域 $[m_{grp} \cdot \text{singleCoreM},; n_{grp} \cdot \text{singleCoreN}]$。该区域需要读入的输入：
WS_{grp} = B \cdot K \cdot \big(m_{grp} \cdot \text{singleCoreM} + n_{grp} \cdot \text{singleCoreN}\big) \cdot \text{dtype} \;\le\; L2
目标：最小化组数（组数越少，输入从 GM 的重复读次数越少）。每行 A 被 n_{grp} 个组各读一次，每列 B 被 m_{grp} 个组各读一次：
r_{in} = \frac{n_{grp} \cdot M + m_{grp} \cdot N}{M + N}
求解：约束 $m_{grp} \cdot \text{singleCoreM} + n_{grp} \cdot \text{singleCoreN} \le D$（其中 $D = L2/(B \cdot K \cdot \text{dtype})$），最小化 $n_{grp} \cdot M + m_{grp} \cdot N$。最优在组内 M/N 向基本块数与输出平面形状成正比时取到：
m_{grp} = \Big\lfloor \frac{D}{2 \cdot \text{singleCoreM}} \Big\rfloor,\qquad n_{grp} = \Big\lfloor \frac{D}{2 \cdot \text{singleCoreN}} \Big\rfloor
总组数 $= \lceil mCnt/m_{grp} \rceil \times \lceil nCnt/n_{grp} \rceil$。
组内 swizzle：每组内部按 ASW 滑窗蛇形执行（窗口 $W = \max{d \mid d \mid C,; d \le \lfloor\sqrt{C}\rfloor}$，C=32 时 W=4），保证同一波 C 个核的活跃工作集最小。组间切换时输入整体换入——上一组的 A 行带和 B 列带全部失效，从 GM 重新读入下一组的数据。
例（B=64、M=N=2048、K=1024、BF16、singleCoreM=singleCoreN=256）：$S_{in} = 64 \times (2048 \times 1024 + 1024 \times 2048) \times 2 = 537\text{MB} > 128\text{MB}$。D = 128\text{MB}/(64 \times 1024 \times 2\text{B}) = 1024 元素。$m_{grp} = \lfloor 1024/(2 \times 256) \rfloor = 2$，$n_{grp} = 2$。每组覆盖 [512, 512] 的输出区域，工作集 $= 64 \times 1024 \times (512+512) \times 2 = 128\text{MB} = L2$，恰好装满。总组数 $= (2048/256/2)^2 = 16$。$r_{in} = (2 \times 2048 + 2 \times 2048)/(2048+2048) = 2$——每行 A 被读 2 次，每列 B 被读 2 次。
块内分配用错位分核（对角线分配）：线性块号先取 m，n 方向叠加随块号递增的相位偏移，使同一时刻各核落在 M×N 平面的不同对角线上——避免多核同一拍并发读同一行 A / 同一列 B 的同一地址（同地址并发读会串行化，等效带宽打折）。例（8 核、4×4=16 个基本块，k0~k7 为核号）：
行优先（不错位）： 错位分核（对角线）：
n0 n1 n2 n3 n0 n1 n2 n3
m0 k0 k1 k2 k3 m0 k0 k4 . .
m1 k4 k5 k6 k7 m1 . k1 k5 .
m2 . . . . m2 . . k2 k6
m3 . . . . m3 k7 . . k3
同一波：A 行带 m0 被 k0~k3 同读 同一波：每行带、每列带
（4 路同地址冲突） 最多 2 核同读（冲突 4→2）
冲突度量与优选规则：
transConflict = \max\big(\lceil C / mCnt \rceil,\; \lceil C / nCnt \rceil\big) \le 6
即同一时刻并发核访问同一 A/B 块的最大冲突数不超过阈值（经验值 6）；切分方案中优先选尾波不满载占比小（拖尾 < 一半）的。遍历大方向由 calOrder 决定（0=M 优先、1=N 优先），按形状选共享矩阵更能驻留 L2 的方向。
补充：若输出会被后续算子立即消费（融合场景），输出驻留 L2 让下游读命中，场景 B/C 的策略反过来；本文按单算子边界分析。
5.7 核内 tiling（BaseM/BaseN/BaseK——L0 级 tile，受 L0 容量直接约束）
$\text{BaseM} \times \text{BaseN} \times 4\text{B} \times DB \le L0C$；$\text{BaseM} \times k_{L0} \times \text{dtype} \times 2 \le L0A$、$k_{L0} \times \text{BaseN} \times \text{dtype} \times 2 \le L0B$；内轴按 dValue 256B/512B 对齐。SingleCoreM/N 内部按 BaseM/BaseN 进一步切分为 L0 tile 逐个计算。L1 按容量开双缓冲，余量充足开 4 buffer。
5.8 内部特化（参数极限，不是独立分支）
单边无 batch 且该侧矩阵小（$M \le 256$、$MK\cdot\text{dtype}\cdot 2 \le L1$、对侧每核循环 ≥4 轮）时小侧整个常驻 L1、只搬一次（L1 全载）。
5.9 降核模式实现
tiling 时 usedCoreNum = ⌈P⌉（不强制 C），SingleCoreM/N 在 L0C 容量内取最大（$\text{singleCoreM} \times \text{singleCoreN} \times 4\text{B} \le L0C$），每核按标准核内流水（L1→L0→Cube→L0C→Fixpipe）处理自己的输出块；核间无共享无依赖，无需 swizzle 与 L2 切分。降核后 GM 并发搬移核数若 < minCoreNum，带宽利用率上限被压低——这正是降核区 case 时延的瓶颈所在，也是"时延绝对值小、不再继续优化"的定量注脚。
5.10 尾轮处理的三种策略对比与适用分界
给定 B、M、K、N、dtype，按 §5.1/§5.2 确定 BaseM/BaseN/SingleCoreM/SingleCoreN 后，总块数 N_{blk} = B \cdot mCnt \cdot nCnt 一般不是 C 的整数倍，尾轮只有 r = N_{blk} \bmod C 个核工作。对尾轮有三种处理策略：
| 策略 | 做法 | 块大小 |
|---|---|---|
| A0：不重切 | 尾轮 r 核各处理 1 个整块，C-r 核空转 |
主轮尾轮同大小 |
| A1：仅尾轮差异化重切（§5.3） | 尾轮 r 块沿 N（或 M）再切 s^* 份，r \cdot s^* 个小块分给 C 核 |
主轮整块 + 尾轮小块 |
| B：整轮均匀重切 | 总块数向上取整到 $N_{blk}' = n_{wave} \cdot C$，全局重新枚举 SingleCoreM/N 使每轮每核恰好一个同样大小的块 | 全部块同大小 |
本节在计算 Bound / 访存 Bound 两类场景下，分别对 A0 vs A1、A0 vs B、A1 vs B 三组对比做完整推导，给出适用条件分界。
统一建模
符号：$n_{wave} = \lceil N_{blk}/C \rceil$（总轮次），$r = N_{blk} \bmod C$（尾轮块数），s^* 为 A1 的尾轮重切因子（§5.3），g = N_{blk}'/N_{blk} = n_{wave}C/N_{blk} > 1 为 B 的块数放大倍数。
块几何对三类时延的缩放律（B 重切后单块面积缩 g 倍、线性尺寸缩 \sqrt{g} 倍，保持近方形比例）：
| 时延项 | 依赖 | 缩放律 |
|---|---|---|
| $T_{MMAD}$（单块 Cube 计算） | \propto 面积 sM \cdot sN |
T_{MMAD}' = T_{MMAD}/g |
| $T_{MTE2}$（单块 GM→L1 搬入） | \propto 周长 (sM + sN) |
T_{MTE2}' \approx T_{MTE2}/\sqrt{g} |
| $T_{FIX}$（单块写出） | \propto 面积 |
$T_{FIX}' = T_{FIX}/g$（总量与切分无关） |
搬移随周长缩放是关键：切分越多，计算缩 g 倍而搬移只缩 \sqrt{g} 倍——"切分越多重复读越多"（§5.2）在每块粒度上的体现。
带宽模型声明：昇腾 950PR 每核 MTE2 带宽上限按 BW_{pc} = W_{GM}/C = 50 GB/s 建模（§1.3）。该假设下尾轮 r 核的聚合带宽仅 $r \cdot BW_{pc}$，尾轮搬移不加速——r 个整块用 r 核，每核 1 块，时延仍为一个整块搬移时间 $T_{load}$。HBM 全局共享池模型的边界说明见本节末。
三策略通用时延式（T_{block} = \max(T_{MMAD}, T_{MTE2}, T_{FIX}) 为单块主导项）：
T_{A0} = n_{wave} \cdot T_{block}
T_{A1} = (n_{wave}-1) \cdot T_{block} + T_{tail}(s^*)
T_B = n_{wave} \cdot T_{block}'
其中 T_{tail}(s^*) 为 A1 尾轮小块主导项时延，T_{block}' 为 B 重切后小块主导项时延。
情形一：计算 Bound（$T_{MMAD} > T_{MTE2}$）
主导项 $T_{block} = T_{MMAD} = 2 \cdot sM \cdot sN \cdot K / Q_{16}$。A1 尾轮沿 N 切 s^* 份后小块面积缩 s^* 倍：$T_{tail} = T_{MMAD}/s^*$。B 重切后 $T_{block}' = T_{MMAD}/g$，代入 $n_{wave}/g = N_{blk}/C = n_{wave}-1+r/C$：
T_B^{calc} = T_{MMAD}\Big(n_{wave} - 1 + \frac{r}{C}\Big)
（1）A0 vs A1
\Delta_{A0 \to A1}^{calc} = T_{A0} - T_{A1} = T_{MMAD}\Big(1 - \frac{1}{s^*}\Big) \ge 0
A1 恒不劣于 A0，分界在可行性：计算 Bound 下重切约束放宽为对齐与搬移掩盖（§5.3），$s^* = \min(\lfloor C/r \rfloor,; sN/16,; sN/x_{min})$。r \le C/2 时 $\lfloor C/r \rfloor \ge 2$，A1 可用；r > C/2 时 $s^* = 1$，A1 退化为 A0。即：
\text{A0 vs A1（计算 Bound）：} \begin{cases} r \le C/2 \Rightarrow \text{A1 优，收益 } T_{MMAD}(1 - 1/s^*) \\ r > C/2 \Rightarrow \text{A1 不可行，A0 = A1} \end{cases}
（2）A0 vs B
\Delta_{A0 \to B}^{calc} = T_{A0} - T_B = T_{MMAD}\Big(n_{wave} - \frac{N_{blk}}{C}\Big) = T_{MMAD} \cdot \frac{C - r}{C}
$r < C$（有尾轮）时 \Delta > 0 恒成立——计算 Bound 下 B 恒优于 A0（只要可行）。收益随 r 减小而增大：尾轮越空，A0 浪费越多。可行性校验两条：
- 搬移掩盖：重切后单块搬移仍被计算掩盖，$T_{MTE2}/\sqrt{g} \le T_{MMAD}/g$，即
\sqrt{g} \le \frac{T_{MMAD}}{T_{MTE2}}
- 分解可行：
N_{blk}'可分解为 $B \cdot mCnt' \cdot nCnt'$，sM'/sN'满足 16 对齐与 BaseM/N 整数倍。
（3）A1 vs B
\Delta_{A1 \to B}^{calc} = T_{A1} - T_B = T_{MMAD}\Big(\frac{1}{s^*} - \frac{r}{C}\Big)
由 s^* \le \lfloor C/r \rfloor \le C/r 知 \Delta \ge 0 恒成立，B 恒不劣于 A1。分界：
\text{A1 vs B（计算 Bound）：} \begin{cases} s^* = C/r \text{（} r \mid C \text{ 完美重切）} \Rightarrow \Delta = 0 \text{，A1 = B} \\ s^* < C/r \Rightarrow \text{B 优，收益 } T_{MMAD}(1/s^* - r/C) \end{cases}
注意 s^* < C/r 有两类来源：\lfloor C/r \rfloor 取整损失（$r \nmid C$），以及 r > C/2 时 s^* = 1 的完全失效。
计算 Bound 数值实例：
例 1（$r > C/2$，A1 失效）：B=1、M=N=1792、K=4096、BF16、C=32。首轮 $mCnt=nCnt=7$（$sM=sN=256$），$N_{blk}=49$、$n_{wave}=2$、$r=17$。单块 $T_{MMAD} = 2 \times 256^2 \times 4096/15.2\text{T} = 35.3\mu s$（$T_{MTE2}=5.2\mu s$，计算 Bound ✓）。
- A0：$T_{A0} = 2 \times 35.3 = 70.6\mu s$；
- A1：$s^* = \lfloor 32/17 \rfloor = 1$，退化为 A0，$T_{A1} = 70.6\mu s$；
- B：$N_{blk}' = 64 = 8 \times 8$，$sM'=sN'=224$（
8 \times 224 = 1792整除），$g = 64/49 = 1.31$。掩盖校验\sqrt{g}=1.14 \le T_{MMAD}/T_{MTE2} = 6.7✓；dValue $= 448$B ≥ 256B ✓。$T_B = 2 \times 27.0 = 54.1\mu s$。
B 相对 A0/A1 省 23.4%；公式核验 \Delta_{A1 \to B} = 35.3 \times (1 - 17/32) = 16.5\mu s ✓。
例 2（r \mid C 完美重切，A1 = B 等价点）：M=1536、N=2048、K=4096、BF16。$mCnt=6, nCnt=8$（$sM=sN=256$），$N_{blk}=48$、$n_{wave}=2$、$r=16$。s^* = \min(2, 16) = 2 = C/r 完美：
- A0：$70.6\mu s$；
- A1：$35.3 + 35.3/2 = 53.0\mu s$；
- B：$N_{blk}' = 64 = 8 \times 8$，$sM'=192, sN'=256$，$T_B = 2 \times 26.5 = 53.0\mu s$。
A1 = B（$1/s^* = r/C = 1/2$，$\Delta = 0$）✓。此时应选 A1——时延相同但 B 徒增搬移量（\sqrt{g} = 1.15 倍）与块数（48→64，启动/排空开销增多），无补偿收益。
情形二：访存 Bound（$T_{MTE2} \ge T_{MMAD}$）
主导项 $T_{block} = T_{load} = (sM + sN) \cdot k_{L1} \cdot dtype / BW_{pc}$。A1 尾轮沿 N 切 s^* 份后小块搬移量为 $(sM + sN/s^*) \cdot k_{L1} \cdot dtype$（A 行带 [sM, k_{L1}] 每个小块都要完整搬一次，不随 s^* 缩小——这是差异化重切的结构性弱点），方形下：
T_{tail}^{A1} = T_{load} \cdot \frac{1 + 1/s^*}{2}
B 重切后单块 $T_{load}' \approx T_{load}/\sqrt{g}$（近方形缩放）。
（1）A0 vs A1
\Delta_{A0 \to A1}^{mem} = T_{load} - T_{load}\frac{1 + 1/s^*}{2} = \frac{T_{load}}{2}\Big(1 - \frac{1}{s^*}\Big) \ge 0
A1 恒不劣于 A0，但访存 Bound 下 s^* 受 dValue 硬约束（§5.3，小块搬移效率不能降）：
s^* = \min\Big(\Big\lfloor \frac{C}{r} \Big\rfloor,\; \frac{sN \cdot dtype}{256\text{B}},\; \frac{k_{L1} \cdot sN \cdot dtype}{min\_TileSize},\; \frac{sN}{16}\Big)
BF16、sN=256 时 dValue 项给出 $s^* \le 2$——即使 r 很小（\lfloor C/r \rfloor 大），尾轮最多切 2 份，收益上限 $T_{load}/4$。分界：
\text{A0 vs A1（访存 Bound）：} \begin{cases} s^* \ge 2 \Rightarrow \text{A1 优，收益 } \frac{T_{load}}{2}(1 - 1/s^*) \\ s^* = 1 \Rightarrow \text{A1 = A0} \end{cases}
（2）A0 vs B
\Delta_{A0 \to B}^{mem} = n_{wave} T_{load}\Big(1 - \frac{1}{\sqrt{g}}\Big) > 0 \quad (g > 1)
B 恒优于 A0（dValue 可行时）。物理解释：尾轮 r 核聚合带宽仅 $r \cdot BW_{pc}$，搬移不加速；B 让所有轮次满核满带宽，总搬移量虽增 \sqrt{g} 倍（周长缩放），但轮次不变、每轮时延缩 \sqrt{g} 倍，净收益为正。dValue 硬约束（不可放宽）：
g \le \Big(\frac{sN \cdot dtype}{256\text{B}}\Big)^2 \quad \text{（方形缩放）}
sN=256、BF16 时 $g \le 4$；sN=128 时 $g \le 1$，B 不可行。
（3）A1 vs B
\Delta_{A1 \to B}^{mem} = T_{A1} - T_B = T_{load}\Big(n_{wave}\Big(1 - \frac{1}{\sqrt{g}}\Big) - \frac{1}{2}\Big(1 - \frac{1}{s^*}\Big)\Big)
（访存 Bound 下 A1 与 B 都受 dValue 约束，但作用点不同：A1 的 s^* 受限于尾轮小块的 dValue，B 的 g 受限于全局小块的 dValue。）分界：
\text{A1 vs B（访存 Bound）：} \begin{cases} n_{wave}\big(1 - 1/\sqrt{g}\big) > \frac{1}{2}(1 - 1/s^*) \Rightarrow \text{B 优} \\ n_{wave}\big(1 - 1/\sqrt{g}\big) < \frac{1}{2}(1 - 1/s^*) \Rightarrow \text{A1 优} \\ \text{相等} \Rightarrow \text{临界打平（选 A1：搬移增量小）} \end{cases}
趋势：g 大（r/N_{blk} 占比大、n_{wave} 小）→ B 优；g 接近 1（n_{wave} 大、尾轮占比小）→ A1 优。注意实际收益还受非方形惩罚：N_{blk}' 的整数分解 (mCnt', nCnt') 偏离方形时，T_{load}' 高于 T_{load}/\sqrt{g} 理论值，B 的实际收益打折（下面的例 4）。
访存 Bound 数值实例：
例 3（$n_{wave}=2$、g 大，B 优）：B=1、M=N=1536、K=256、BF16、C=32。$mCnt=nCnt=6$（$sM=sN=256$），$N_{blk}=36$、$n_{wave}=2$、$r=4$。$T_{load} = 512 \times 256 \times 2/50\text{G} = 5.24\mu s$（$k_{L1}=256=K$），$T_{MMAD}=2.21\mu s$（访存 Bound ✓）。
- A0：$2 \times 5.24 = 10.5\mu s$；
- A1：$s^* = \min(8,; 2,; 16) = 2$（dValue 卡死），尾轮小块
[256, 128]搬移 $3.93\mu s$，$T_{A1} = 5.24 + 3.93 = 9.2\mu s$； - B：$N_{blk}' = 64 = 8 \times 8$，$sM'=sN'=192$，dValue $= 384$B ✓，$T_{load}' = 384 \times 256 \times 2/50\text{G} = 3.93\mu s$，$T_B = 2 \times 3.93 = 7.9\mu s$。
B 相对 A1 省 14.3%；分界公式核验：n_{wave}(1-1/\sqrt{g}) = 2 \times (1-0.75) = 0.50 > (1-1/s^*)/2 = 0.25 → B 优，\Delta = 5.24 \times (0.50-0.25) = 1.31\mu s ✓ 精确吻合。
例 4（$n_{wave}=4$、临界打平）：M=N=2560、K=256、BF16。$mCnt=nCnt=10$、$N_{blk}=100$、$n_{wave}=4$、$r=4$、$g=128/100=1.28$。
- A0：$4 \times 5.24 = 21.0\mu s$；
- A1：$s^*=2$，$T_{A1} = 3 \times 5.24 + 3.93 = 19.7\mu s$；
- B：$N_{blk}' = 128$，最方形分解 $(8, 16)$（$sM'=320, sN'=160$），$T_{load}' = 480 \times 256 \times 2/50\text{G} = 4.92\mu s$，$T_B = 4 \times 4.92 = 19.7\mu s$。
A1 = B 打平：B 的理论缩放 1/\sqrt{g} = 0.884 被非方形惩罚（周长 480 vs 方形等效 452）吃掉，实际缩放仅 0.938，n_{wave}(1 - 0.938) = 0.25 = (1-1/s^*)/2 恰好临界。此时选 A1（搬移增量小、块数少）。
例 5（$r > C/2$，A1 退化）：M=N=2304、K=256、BF16。$mCnt=nCnt=9$、$N_{blk}=81$、$n_{wave}=3$、$r=17$。
- A0：$3 \times 5.24 = 15.7\mu s$；
- A1：$s^* = \min(1, 2) = 1$，退化为 A0；
- B：$N_{blk}' = 96$，$(mCnt', nCnt') = (8, 12)$（$sM'=288, sN'=192$），dValue $=384$B ✓，$T_{load}' = 4.92\mu s$，$T_B = 3 \times 4.92 = 14.7\mu s$。
B 省 6.2%（非方形分解使实际收益略低于 1-1/\sqrt{g} = 8.2\% 的理论值）。
三策略决策总表
Bound 判据：$K^* = \dfrac{k_{L1} \cdot dtype \cdot Q_{16}}{2 \cdot BW_{pc}}\Big(\dfrac{1}{sM} + \dfrac{1}{sN}\Big)$，K \ge K^* 为计算 Bound，否则访存 Bound。
| 场景 | A0 vs A1 | A0 vs B | A1 vs B | 最优策略 |
|---|---|---|---|---|
计算 Bound，r \le C/2 且 r \mid C |
A1 优 | B 优 | A1 = B（选 A1，搬移少） | A1 |
计算 Bound，r \le C/2 且 r \nmid C |
A1 优 | B 优 | B 略优（取整损失） | A1/B 皆可，B 略优 |
计算 Bound，r > C/2 |
A1 退化 | B 优 | B 显著优 | B（收益 $T_{MMAD}(1-r/C)$） |
访存 Bound，$s^* = 1$（r > C/2 或 dValue 卡死） |
A1 退化 | B 优 | B 优 | B（若 g 满足 dValue） |
访存 Bound，n_{wave}(1-1/\sqrt{g}) > (1-1/s^*)/2 |
A1 优 | B 优 | B 优 | B |
访存 Bound，n_{wave}(1-1/\sqrt{g}) \le (1-1/s^*)/2 |
A1 优 | B 优 | A1 优/打平 | A1 |
| 访存 Bound，dValue 不满足（$g > (sN \cdot dtype/256\text{B})^2$） | — | B 不可行 | — | A1 或 A0 |
写出 Bound（K 小使 T_{FIX} 主导） |
同计算 Bound（缩放律同为面积） | 同计算 Bound | 同计算 Bound | 按计算 Bound 判定 |
整体结论：
- A0 从来不是最优——任何有尾轮（$r > 0$）的场景，A1 或 B 至少不劣于 A0；A0 只是可行性兜底；
- 计算 Bound：
r > C/2是 A1/B 的硬分界（A1 失效，B 唯一可重切）；r \le C/2且整除良好时 A1 与 B 等价，选 A1（搬移增量小）； - 访存 Bound：A1 的收益被双重压缩（dValue 限 $s^*$、A 行带不随
s^*缩小），B 的收益随g增大；分届公式n_{wave}(1-1/\sqrt{g})vs(1-1/s^*)/2给出精确判定，n_{wave}小、g大时 B 优，反之 A1 优； - B 的代价（相对 A1）：总搬移量增
\sqrt{g}倍（访存 Bound 下已被时延公式计入；计算 Bound 下须掩盖校验）、块数增多带来 MMAD 启动/排空与 L0C 切换开销（未建模，量级为 $(N_{blk}' - N_{blk}) \cdot t_0 / C$，t_0为单块固定开销）。
边界说明（带宽模型敏感性）：访存 Bound 结论依赖"每核 MTE2 带宽上限 $BW_{pc}$"假设。若 HBM 为全局共享池（尾轮 r 核可吃满 $W_{GM}$），则 A0 尾轮搬移时延已是 r/C \cdot T_{load} 接近理想，B 的 \sqrt{g} 倍搬移增量无带宽补偿，A0 vs B 结论反转。昇腾 950PR 的 MTE2 为每核独立 DMA 引擎、带宽按核数配平，采用固定份额结论；临界 case 建议实测复核。
与流程图的衔接：三策略决策嵌入 §7.2 理论流程图阶段 4——先算 $r$、$g$、$s^*$，按 Bound 类型查决策总表；选 B 时回到阶段 2 的枚举算法（约束 1 改为等式 $B \cdot mCnt' \cdot nCnt' = N_{blk}'$）重出 SingleCoreM/N，选 A1 时按 §5.3 计算 s^* 与尾轮 tiling 变体。
六、与源码实现的对比
源码参考 cann-ops-nn（DAV_3510/arch35）。以下按实现方案的 Step 0-8 逐维度对比。
6.1 进入条件（IsCapable）
源码（batch_matmul_v3_asw_basic_tiling.cpp IsCapable）：
// 源码：https://gitcode.com/cann/ops-nn/tree/master/matmul/batch_mat_mul_v3
1. A/B 非连续转置状态一致（混合则拒绝）
2. BatchA == BatchB（广播由 ITER_BATCH_BROADCAST 承接）
3. batchBias <= 1
4. dtype 限 FP16/BF16
// 无其他条件——兜底
| 维度 | 理论 | 源码 | 差异 |
|---|---|---|---|
| 并行度校验 | P = B \cdot MN \cdot 4B / L0C \ge C |
无 | 源码不检查 P，靠优先级序靠前分支截胡 |
| 降核模式 | P < C → usedCoreNum = ⌈P⌉ |
无 | GetNumBlocks() 固定返回 32 核 |
| batch 结构 | 无限制 | BatchA == BatchB | 源码排除广播（由分支 4 承接） |
影响：源码缺少降核分支。P < C 的 case 进入 ASW_Basic 后，所有 32 核仍参与调度，但部分核无实际工作——引入不必要的调度开销。理论上这些 case 应走降核模式（usedCoreNum = ⌈P⌉）。
6.2 BaseM / BaseN 确定（§5.1）
源码流程（MatMulV3TilingHelper::GetRebalanceBlock，matmul_v3_tiling_helper.cpp L387-492）：
第 1 步——平台指标（动态读 platformInfo，适配不同产品形态）：
hbmBW = freq \times aicNum \times ddrRate/1024,\qquad l2BW = freq \times aicNum \times l2Rate/1024
computePower = freq \times 8 \times aicNum \; (\text{BF16}),\quad \text{FP32 时 } /16
第 2 步——cubeBoundEdge 闭式计算（L418-419）：
edge = \underbrace{\frac{l2BW}{computePower}}_{\text{① L2 满速供数基准}} + \underbrace{l2CacheUsage \cdot \Big(1-\frac{l2BW}{hbmBW}\Big) \cdot cmr}_{\text{② L2 工作集超容惩罚}} - \underbrace{\frac{1 + l2BW/hbmBW}{kValue}}_{\text{③ K 向复用修正}}
其中 $cmr = (M{+}N)/(MN)$、$l2CacheUsage = \max(B \cdot (M{+}N) \cdot K \cdot dtype/L2,; 1)$。判据：每输出块相对搬运量 1/baseM + 1/baseN \le edge ⟺ 该 tile 处于计算 Bound 侧。
三项物理含义（第一性推导）：
-
① 基准：单核计算
2MNKFLOP 时长为 $2MNK/Q_{16}$，搬运(M{+}N)K \cdot dtype字节时长为 $(M{+}N)K \cdot dtype/l2BW$。计算 Bound ⟺2MNK/Q_{16} \ge (M{+}N)K \cdot dtype/l2BW⟺ $1/M + 1/N \le 2 \cdot l2BW/(Q_{16} \cdot dtype)$——与 ① 同构（2/dtype常数吸收进后面的 CUBE_BOUND_RATIO 余量）。 -
② 工作集超 L2 时抬高 edge → 倾向更小 tile：$l2CacheUsage > 1$（工作集
B(M{+}N)K \cdot dtype超过 L2）时实际供数带宽部分掉到 HBM（$hbmBW < l2BW$）。抬 edge 使判定放宽——较小 tile（工作集小、L2 命中率高、供数更接近 l2BW）也能通过计算 Bound 判定。若坚持大 tile，工作集更大、超 L2 更多、供数掉到 HBM，反而访存 Bound。 -
③ K 大时压低 edge → 倾向更大 tile：K 大计算量大、天然计算 Bound，可接受更大 tile（更小搬运量）而不触访存 Bound。
第 3 步——枚举与评分（L448-483）：
- 候选上界由多重约束闭式卡出：L0A/L0B 容量（minKL0）、baseMNBufferLimit（L0C/UB 面积）、bias table、K 内轴 512B 对齐（BMM 固定）、shape；内存 Bound 时对齐粒度 128、计算 Bound 时 64
- 枚举 baseM、baseN 从大到小递减，两层剪枝：
- skipCond：最优解已 balance ≥ 0.9 时，若当前 param 更差（tile 更小）且超过 edge（访存 Bound）→ 跳过（param 单调增，后续更差）
- FP32：baseM/baseN < 64 且块数 > 核数 → 跳过
- 更新评分（帕累托双目标）：
- cubeBoundCond：
param \le edge且 balance 更高 → 更新，并把 edge 收紧为 param（单调收敛：进入计算 Bound 区域后只接受同样计算 Bound 且更均衡的解） - balanceCond：综合分
param/balanceRate更小者胜（单位负载均衡率的搬运代价），相等取更均衡者
- cubeBoundCond：
- 收尾：GetBaseK（K 全载或 256B/128B/64B/32B/16 递减）、usedCoreNum = min(batch×mCore×nCore, 核数)、dbL0C 按容量置 2/1
为什么源码这么做（设计考虑）：cubeBound 是 host 端闭式解析模型，把"该 tile 是否计算 Bound"做成一次不等式比较，替代实测调优；edge 随 shape（K、工作集）和平台（带宽/频率）自适应；双目标帕累托保证解在"算存比"与"负载均衡"之间取平衡。
与理论最优的优劣判定：
| 维度 | 理论最优（§5.1） | 源码 | 判定 |
|---|---|---|---|
| tile 面积 | L0C/4B = 65536（单缓冲满） | baseM/baseN 上限 256×256 = 65536 | ✓ 一致 |
| 形状 | 方形优先（L0A=L0B 同时装满、baseK 最大） | 枚举 M/N 独立递减，不强制方形 | ⚠️ 源码可能产出非方形 base（如 256×192），L0B 未满、baseK 被小边限制——可加方形约束改进 |
| baseK | min(L0A/2·BM, L0B/2·BN) 向下 16 对齐 | GetBaseK：K 全载或 256B/128B/64B/32B/16 递减 | ✓ 一致 |
| 访存/计算 Bound 判定 | §5.2 用粗粒度 Bound 判定（分支级） | cubeBound 三项解析模型（tile 级） | ⚠️ 源码更精细，理论可吸收 |
| 负载均衡 | §5.3 尾轮重切 | balanceRate 尾块感知评分 | 见 §6.8 |
结论：两者在 tile 面积上殊途同归（都取 L0C 单缓冲满），理论用"方形优先"推导、源码用枚举寻优。源码的 cubeBound 模型是理论"算存比判定"在 tile 粒度上的精细实现，值得理论吸收；源码的不足是枚举不保持方形、baseM/N 硬上限 256 使 per-core tile 无法超过 L0 容量（见 §6.3）。
6.3 SingleCoreM / SingleCoreN 确定（§5.2）
源码事实：singleCore 与 base 是同一个参数——源码没有分层概念。
证据链：ResetBaseDav3510（L144-149）置 baseM = baseN = 256、singleCoreM = baseM；CalL1TilingDefault（L77-78）置 singleCoreM = runInfo.baseM、singleCoreN = runInfo.baseN；枚举后 stepM = CeilDiv(singleCoreM, baseM) = 1、stepN = 1。即每核 tile = L0 tile = baseM×baseN（≤ 256×256），不存在"SingleCore 内部多个 L0 tile 多轮计算"的结构。
源码做法：baseM/baseN 由 GetRebalanceBlock 枚举确定（§6.2 的 cubeBound 模型 + balanceRate ≥ 0.9 剪枝 + 尾块感知评分），一次枚举同时决定"每核 tile 大小"与"L0 tile 大小"——因为两者不区分。
为什么源码这么做（设计考虑）：单一参数简化 tiling 生成与 kernel 实现——kernel 只需处理"每核一个 baseM×baseN tile"的循环，无需 stepM/stepN 多轮嵌套。代价是每核 tile 被 L0 容量（≤ 256×256）硬性限制。
与理论最优的优劣判定（关键差异）：
| 维度 | 理论最优（§5.2） | 源码 | 判定 |
|---|---|---|---|
| 分层 | SingleCoreM/N ≥ BaseM/N 显式两层 | singleCore = base，单层 | ⚠️ 源码是理论的退化特例 |
| SingleCore 上限 | L1 容量约束（可远超 256） | L0C 面积（≤ 256×256） | ⚠️ 差异 |
| mCnt/nCnt | 最少切分 ⌈C/B⌉ | ⌈M/baseM⌉×⌈N/baseN⌉，base ≤ 256 | ⚠️ 差异 |
| 依据 | 搬入时延最小化（§5.2 拉格朗日） | cubeBound + balanceRate 枚举 | 部分一致 |
定量示例（B=64、M=N=2048、K=512、BF16，ASW 承接的 B≥C 且 IterBatch/MergeBatch 不满足的 case）：
- 理论：$P = \lceil C/B \rceil = 1$，先试不切分——$mCnt = nCnt = 1$、singleCoreM = 2048、singleCoreN = 2048。L1 检查：
2 \times (2048{+}2048) \times k_{L1} \times 2\text{B} \le 512\text{KB}⟹k_{L1} \le 32元素 = 64B < 256B 不满足 dValue。K 分块仍不满足则退化：$k_{L1} \ge 128$（256B）⟹2 \times 4096 \times 128 \times 2 = 2\text{MB} > 512\text{KB}溢出 ⟹ 不切分不可行，进入情形 2（B < C 式切分）？此时 B ≥ C 但 L1 放不下，实际须切 M/N：按mCnt \times nCnt \ge \lceil C/B \rceil不成立——真正约束是 L1：$2(mCnt 方向的分块)$… 精确说，理论在 L1 约束下求最小 mCnt×nCnt：2 \cdot (\text{singleCoreM} + \text{singleCoreN}) \cdot k_{L1} \cdot dtype \le L1与mCnt \cdot nCnt的联合。取 $k_{L1}=128$：$\text{singleCoreM} + \text{singleCoreN} \le 512\text{KB}/(2 \times 128 \times 2) = 1024$。方形分配 ⟹ singleCoreM = singleCoreN = 512、mCnt = nCnt = 4、共 16 块/核分配 64×16=1024 块到 32 核。搬入时延 ∝ mCnt/M + nCnt/N = 4/2048×2 = 0.0039。 - 源码：baseM = baseN = 256（L0 上限），mCnt = nCnt = ⌈2048/256⌉ = 8、共 64 块/batch、64×64=4096 块。搬入时延 ∝ 8/2048×2 = 0.0078——是理论的 2 倍。
结论：当 L1 容量富余（K 小）时，理论的最少切分原则允许 singleCoreM/N 超过 256（上例 512），mCnt/nCnt 减半，GM→L1 总搬入时延（重复读）减半；源码的 singleCore = base ≤ 256 硬上限导致过度切分，L2 重复读翻倍。源码改进方向：引入 SingleCore/Base 分层，SingleCore 由 L1 容量决定（上限解除 L0 约束），stepM/stepN 多轮 L0 计算。这是理论对源码最实质的一条改进建议。
6.4 mCnt / nCnt 与核间分配（§5.3）
源码做法：
mCnt = \Big\lceil \frac{M}{baseM} \Big\rceil,\qquad nCnt = \Big\lceil \frac{N}{baseN} \Big\rceil
块→核映射：UpdateBasicIndex（batch_mat_mul_v3_asw_block_advanced.h）——index = blockIdx + round × usedCoreNum，matIndex = index % (mCnt × nCnt) 解出 batch 内 (m, n)，B→M→N 线性字典序，与理论 §4 的线性映射一致；batchIdx = index / (mCnt × nCnt) 天然支持广播。usedCoreNum = min(batch×mCore×nCore, aicNum)（GetRebalanceBlock L489）——注意源码也有"降核"：当 batch×mCnt×nCnt < aicNum 时 usedCoreNum 自动收缩，比 §6.1 所述"无降核"更准确：源码无独立的降核 tiling 模板，但 GetRebalanceBlock 收尾会把 usedCoreNum 压到实际块数。
与理论最优的优劣判定：
| 维度 | 理论最优 | 源码 | 判定 |
|---|---|---|---|
| 切分数 | 最少切分：mCnt×nCnt = ⌈C/B⌉（§5.2） | mCnt = ⌈M/baseM⌉，baseM ≤ 256 固定 | ⚠️ 源码过度切分（§6.3 定量：搬入时延 2 倍） |
| 长宽比 | B < C 时方形分配（拉格朗日） | 由 baseM/baseN 枚举自然产生 | ≈ 一致（方形成分由 256×256 上限保证） |
| 核间分配 | B→M→N 线性映射 | 一致 | ✓ |
| 降核 | P < C → usedCoreNum = ⌈P⌉（§5.9） | usedCoreNum = min(batch×m×n, aicNum) | ≈ 一致（实现路径不同） |
尾轮处理对比（对应 §5.3）：
- 源码
GetBalanceRateWithTail（L223-246）：尾块感知的负载均衡率用于枚举评分——mainRound = ⌈totalRound/C⌉-1，尾轮按 √ 拆两维估算（totalTailSplit = FloorDiv(usedCoreNum, 尾块数)），$tailRound = 1/(\sqrt{t} \times (\sqrt{t}+offset-1))$，$rate = (MN/C)/((mainRound+tailRound) \cdot baseM \cdot baseN)$。但 BMM 场景（batchInfo ≠ nullptr）直接短路为简单比率（L237-240：$rate = (B \cdot MN/C)/((mainRound+1) \cdot baseM \cdot baseN)$）——尾轮不做拆分估算，理由是 batch 维已摊薄尾块效应。 - 源码不实际重切尾轮，只通过枚举选择尾块占比小的 (baseM, baseN) 组合。
- 理论（§5.3）：
n_{wave} \le 3时 host 端计算切分因子s^*并实际重切尾轮（下发第二套 tiling 参数），收益 $T_{block}(1-1/s^*)$。
判定：理论更优。源码对 BMM 一律不做尾轮拆分（含估算），对小 $n_{wave}$（2~3 轮）的 case 尾轮浪费可达 25%~50% 核时；理论的重切方案 host 端零 NPU 代价、收益可量化（访存 Bound 受 dValue 约束、计算 Bound 可到对齐底线）。理论方案可作为源码改进建议。
6.5 Swizzle（§5.5）
| 维度 | 理论 | 源码 |
|---|---|---|
| 窗口大小 | W = \max\{d : d \mid C, d \le \lfloor\sqrt{C}\rfloor\} |
GetAswWindowLen：逻辑一致 |
| 蛇形 | 窗口行间 N 向反向，窗内不蛇形 | 一致（rowIdx % 2 != 0 时 n 反向） |
| 尾窗 | 未提及 | 有 tailWindow 分支处理 mCnt 不整除窗长 |
结论：swizzle 实现与理论一致。源码的窗长公式与理论 W = \max\{d : d \mid C, d \le \lfloor\sqrt{C}\rfloor\} 完全相同。但源码对细长 shape（mCnt 小或 nCnt≫mCnt）的方形窗假设不成立时，退化为行优先（mainWindow = min(aswWindowLen, mCnt)），未按 shape 长宽比自适应窗形。
6.6 L2 管理（§5.6）
| 维度 | 理论 | 源码 |
|---|---|---|
| 启用条件 | S_{in} > L2 时分组 |
isBigSize(>100MB) && cBatchDimAll < usedCoreNum && transConflict ≤ 6 |
| 冲突度量 | transConflict ≤ 6 | 一致 |
| 写出策略 | S_{in} \le L2 < S_{in}+S_{out} 时输出直写 GM |
仅 enableL2Cache flag + SetL2CacheHint，无显式输出 non-allocate 决策链 |
| 尾波控制 | 优先选尾波不满载占比小的方案 | TAIL_CONFLICT_RATIO = 0.5 |
差异分析：源码有两个额外限制：
- 100MB 阈值：小于 100MB 的 case 不启用 L2 cache 管理——理论上
S_{in} \le L2 = 128MB 时不需要分组，100MB < 128MB 留有余量，合理但是经验值； - cBatchDimAll < usedCoreNum：batch 数小于核数时才启用——B ≥ C 时不做 L2 分块（由 ASW 承接时不分）。
源码中理论要求的"输出直写 GM vs 驻留 L2"的写出策略联合决策（场景 B：$S_{in} \le L2 < S_{in}+S_{out}$）未见显式实现。
6.7 AL1 全载特化（§5.8）
| 维度 | 理论 | 源码 |
|---|---|---|
| 条件 | M ≤ 256，batchA=1，A 驻留 L1，每核 ≥4 轮 | 一致（IsCapable L31-72） |
| A 搬移 | GM→L1 一次搬入 | 一致（Nd2Nz DataCopy 一次搬入） |
| B 搬移 | 每基本块一次 | 一致 |
结论：AL1 全载是理论与源码最吻合的分支。源码注释有笔误（"m should be larger than 256" 实为 ≤256），需注意。
6.8 尾轮处理（§5.3）
源码的尾轮相关逻辑分布在三处，与理论逐项对比：
| 机制 | 源码 | 理论（§5.3） | 判定 |
|---|---|---|---|
| 尾块感知评分 | GetBalanceRateWithTail：尾轮按 √ 拆两维估算后计入 rate |
\Delta T_{tail} 量化公式 |
≈ 一致（源码是估算、理论是闭式） |
| BMM 尾轮估算 | batchInfo ≠ nullptr 时短路为简单比率，不做拆分估算 | batch 维摊薄尾块效应 | ≈ 一致 |
| 实际重切 | 不做（仅 AL1 全载的 CalcTailBasicBlockAL1Full 沿 N 切尾块逼近满载） |
n_{wave} \le 3 且 r < C 时 host 端重切（s^* 分块 + 第二套 tiling 参数下发） |
⚠️ 理论更优 |
| 重切约束 | — | 访存 Bound：dValue ≥ 256B、搬移量 ≥ min_TileSize、16 对齐；计算 Bound：仅 16 对齐 | — |
判定：源码对 BMM 的 ASW 路径不做尾轮重切，仅通过枚举选择尾块占比小的组合（balanceRate ≥ 0.9 剪枝）。对于 n_{wave} = \lceil B \cdot mCnt \cdot nCnt/C \rceil \le 3 的 case，理论的重切方案可节省 T_{block}(1-1/s^*) 的尾波时延（$n_{wave}=2$、r=8 时总时延省 25%），且 host 端零 NPU 代价。源码改进建议：在枚举收尾后增加尾轮重切判定（n_{wave} \le 3 时计算 s^* 并生成第二套 tiling 参数）。
6.9 降核模式（§5.9）
| 维度 | 理论 | 源码 |
|---|---|---|
| 实现 | usedCoreNum = ⌈P⌉，其余核闲置 | 未实现——GetNumBlocks() 固定返回 32 |
影响：P < C 的 case（小 M/N、小 B）进入 ASW_Basic 后，所有 32 核参与调度但部分核无实际工作。理论上应只调度 ⌈P⌉ 核。这类 case 的时延绝对值小，但多余核的调度开销（tiling 计算、kernel 启动、上下文切换）是真实存在的。
6.10 综合评价
| 维度 | 评价 |
|---|---|
| 核间分配 + swizzle | ✓ 与理论一致 |
| AL1 全载特化 | ✓ 与理论最吻合 |
| 尾轮处理 | ✓ 一致（不重切，选小尾波组合） |
| BaseM/BaseN 分层 | ⚠️ 源码无显式 SingleCore/Base 分层，baseM=256 实为 SingleCore 级 |
| L2 管理 | ⚠️ 比理论保守（100MB 阈值 + batch 数限制），缺输出写出策略联合决策 |
| 降核模式 | ✗ 未实现 |
| 经验常数 | ⚠️ CUBE_BOUND_RATIO=0.85、balanceRate=0.9、transConflict=6、TAIL_CONFLICT_RATIO=0.5 等无官方文档推导，边界 case 值得实测复核 |
总体判断：源码的 ASW_Basic 实现在核间分配、swizzle、AL1 全载上与理论高度一致，是经实测调优的工程实现。理论分析的价值在于：
- 补齐降核模式——P < C 时 usedCoreNum = ⌈P⌉，避免无效核调度；
- 显式分层——SingleCoreM/N 与 BaseM/N 分开，约束链更清晰；
- 写出策略联合决策——
S_{in} \le L2 < S_{in}+S_{out}时输出直写 GM 的显式判断； - 经验常数的理论依据——cubeBound 模型的三项分解（L2 供数/溢出惩罚/K 向复用）可以从第一性原理推导。
七、程序实现流程图（源码 vs 理论最优）
本节给出两张端到端程序实现流程图：从 case 输入（B, M, K, N, dtype 及转置/格式属性）开始，直到所有 tiling & swizzle 参数被清晰计算出来。图 1 严格对应源码实现（每个处理步骤标注所在函数），图 2 对应本文理论最优实现（每个处理步骤标注 §5 的公式出处），§7.3 给出两图差异对照。
流程图图例约定：[输入/常量]、<处理与判定>、→ 产出参数；分支用 ├─/└─ 表示；✓/✗ 表示通过/拒绝。
7.1 源码 ASW_Basic 程序实现流程图
源码入口：BatchMatMulV3AswBasicTiling（op_host/op_tiling/arch35/batch_matmul_v3_asw_basic_tiling.cpp，DAV_3510 注册为第 9 优先级模板 ASW_BASIC）。tiling 层依赖 MatMulV3TilingHelper（matmul_v3_tiling_helper.cpp）与 MatMulV3BasicAswtTiling；kernel 层为 BatchMatMulAswKernel + BatchMatMulAswBlock。
阶段 0：进入判定（IsCapable）
[B, M, K, N, dtype, isATrans, isBTrans, hasBias, aFormat/bFormat]
│
▼
<A、B 非连续转置状态一致？> ──否──▶ 不进入（回落 BASE 模板）
│是
▼
<batchA == batchB（四维 batch 全部相等，不支持交叉广播）？> ──否──▶ 不进入
│是
▼
<batchBias ≤ 1 ？ dtype ∈ {FP16, BF16}？（B 为 NZ 且 C 为 FP32 时报错）> ──否──▶ 不进入
│是
▼
进入 ASW_BASIC
阶段 1：参数初始化（ResetBase → ResetBaseDav3510）
<ResetBaseDav3510>
→ baseM = 256, baseN = 256（"256 is better base"）
→ baseK = 128B / aDtypeSize（BF16 取 64）
→ stepM = stepN = 1, singleCoreK = K
→ singleCoreM = baseM, singleCoreN = baseN ← 不分层（本文 §6.3 的过度切分根源）
→ usedCoreNum = 32, dbL0C = 1, iterateOrder = ITER_COL_FIRST
阶段 2：cubeBound 枚举确定 baseM/baseN/baseK（GetRebalanceBlock）
[platformInfo: hbmBW、l2BW、singleCoreComputePower = cube_freq×8]
│
▼
<算边缘：cmr = (M+N)/(M·N), computePower = singleCorePower×32
l2CacheUsage = max(B·(M+N)·K·dtype / L2, 1)
cubeBoundEdge = l2BW/computePower
+ l2CacheUsage·(1 − l2BW/hbmBW)·cmr
− (1 + l2BW/hbmBW)/K >
│
▼
<初始最优：baseMBest = min(align16(M), 256)
baseNBest = min(align16(N), floor16(L0C/4B/baseMBest))
cubeBoundParamBest = 1/baseMBest + 1/baseNBest
isMemoryBound = cubeBoundParamBest > cubeBoundEdge
fixpBoundEdge = M·N·hbmBW / ((M+N)·l2BW)>
│
▼
<枚举上界：maxBaseM = GetMaxBaseWithLimit(...)（L0A 容量/bias 表/kL1 对齐/shape 约束）
maxBaseN = GetMaxBaseWithLimit(...)（L0B 容量/bias 表/kL1 对齐/shape 约束）>
│
▼
<初值：baseM = clamp16(min(maxBaseM, 256), ≥16)
baseN = clamp16(min(maxBaseN, floor16(L0C/4B/baseM)), ≥16)
cubeBoundParam = 1/baseM + 1/baseN
cubeBoundEdge = cubeBoundEdge × 0.85（CUBE_BOUND_RATIO）
balanceRate = GetBalanceRateWithTail(...)>
│
▼
<双层枚举（curBaseM: maxBaseM → 16 步长 baseMAlignUnit；
curBaseN: min(maxBaseN, L0C/4B/curBaseM) → 16 步长 baseNAlignUnit）
curParam = 1/curBaseM + 1/curBaseN
curRate = GetBalanceRateWithTail(...)
① skip 剪枝：balanceRate ≥ 0.9 且 curParam > cubeBoundParam
且 curParam > cubeBoundEdge 且 edge > 0 → 跳过
② FP32 剪枝：FP32 且 curParam < edge 且 mCnt×nCnt > 32
时 curBase 须 > 64 → 否则跳过
③ cubeBoundCond：curParam ≤ edge 且 curRate > balanceRate
→ 更新解（且 edge = curParam）
④ balanceCond：(curParam/curRate) < (cubeBoundParam/balanceRate)
→ 更新解（或比值相等且 curRate 更大）>
│
▼
<收敛：baseM = min(align16(M), baseM), baseN = min(align16(N), baseN)
GetBaseK：baseK = min(align16(K), L0A/2/dtype/max(baseM, baseN))
A 转置且 B 非转置 → floor16；否则按 256B 对齐或 {128,64,32,16} 候选
mCore = ⌈M/baseM⌉, nCore = ⌈N/baseN⌉
usedCoreNum = min(B·mCore·nCore, 32)
dbL0C = (baseM·baseN·4B·2 ≤ L0C) ? 2 : 1
ubDB = (baseM·baseN·4B ≤ UB) ? 2 : 1>
→ baseM, baseN, baseK, usedCoreNum, dbL0C, ubDB
阶段 3：L1 粒度参数（CalL1Tiling → CalL1TilingDefault）
<枚举 stepK = 1 .. min(⌈K/baseK⌉, 8)：
kL1 = baseK × stepK
容量约束：(baseM·kL1 + baseN·kL1)·dtype·2 ≤ L1
且 max(两侧)·2·2 ≤ L1
对齐约束：K 内轴时 kL1·dtype ≥ 256B；单次搬移量 ≥ L1_SINGLE_SIZE_LIMIT>
→ stepKa = stepKb = kL1/baseK
→ depthA1 = depthB1 = stepK × 2（双缓冲）
→ singleCoreM = baseM, singleCoreN = baseN ← 仍不分层
阶段 4：L1 buffer 数与 API 级别（DoOpTiling 尾部）
<abL1 = baseK·stepKa·(baseM + baseN)·aDtypeSize（hasBias 时加 baseN·biasB）
l1BufferNum = (abL1 × 4 ≤ L1) ? 4 : 2>
│
▼
<CheckTensorApiSupport：
FP32 且 K > 阈值 且 ND 且非连续 → splitK（kernel 内切 K 保精度）
BatchMatMulV3 节点且连续且非 splitK → apiLevel = TENSOR_LEVEL
否则 → apiLevel = BASIC_LEVEL>
阶段 5：参数打包（GetTilingKey + GetTilingData）
<tilingKey = Trans | Model=BASIC | ApiLevel>
│
▼
<GetTilingDataProcess(BatchMatMulV3BasicTilingData)：
usedCoreNum, m = M, n = N, k = K
mL1 = min(align16(M), baseM·stepM)
nL1 = min(align16(N), baseN·stepN)
kL1 = baseK × min(min(stepKb, stepKa), 4)
baseM/baseN/baseK、mTailCnt/nTailCnt（CalcTailBasicBlock 尾块拆分）
mmadParam、l1BufferNum、l0cDB = dbL0C>
│
▼
<GetTilingDataProcess(MatMulV3TilingData)：
tCubeTiling：singleCoreM/N/K、baseM/N/K、depthA1/B1、
stepM/N、stepKa/Kb、iterateOrder、dbL0C、BatchNum
aswWindowLen = GetAswWindowLen() ← 从 ⌊√32⌋=5 向下找最大因子 → 4
l2CacheDisable = SetDisableL2cache(mL1, kaL1, kbL1, nL1)
← totalSize(=A+B+C) vs L2 → 全/左/右矩阵 L2 uncache 标志>
→ 完整 tilingData 下发 NPU
阶段 6：kernel 运行时映射（BatchMatMulAswBlock + BatchMatMulAswKernel::Process）
<Init：blockBaseM/N = tiling.baseM/baseN
mCnt = ⌈M/baseM⌉, nCnt = ⌈N/baseN⌉
mBaseTail = M − (mCnt−1)·baseM, nBaseTail = N − (nCnt−1)·baseN
totalCnt = B·mCnt·nCnt
round = ⌈totalCnt/usedCoreNum⌉
mainWindow = min(aswWindowLen, mCnt)
mainRow = mCnt/mainWindow − 1
tailWindow = mCnt − mainRow·mainWindow
FP32 且 K > 8192 且 B 为 ND：splitKRound = ⌈K/8192⌉（保精度切 K）>
│
▼
<Process：for j in 0..round−1：
newBlockIdx = GetCurrentBlockIdx()
UpdateBasicIndex(j, newBlockIdx)： ← swizzle：滑窗 + 蛇形
index = newBlockIdx + j·usedCoreNum （轮次线性映射）
matIndex = index % (mCnt·nCnt)
rowIdx = matIndex / nCnt / mainWindow
主窗行：mCntIndex = rowIdx·mainWindow + matIndex % mainWindow
nCntIndex = (matIndex / mainWindow) % nCnt
尾窗行：mCntIndex = mainRow·mainWindow + tailIndex % tailWindow
nCntIndex = (tailIndex / tailWindow) % nCnt
蛇形：rowIdx 为奇数 → nCntIndex = nCnt − 1 − nCntIndex
UpdateBlockParams：singleCoreM = 尾块 ? mBaseTail : baseM
singleCoreN = 尾块 ? nBaseTail : baseN
CalcGMOffset：index 反解 (batch, m, n) 索引 → A/B/C 的 GM 偏移
mm_.SetSingleShape(singleCoreM, singleCoreN, singleShapeK)
mm_.Iterate()（核内标准流水：L1→L0A/L0B→MMAD→L0C→Fixpipe）>
源码产出参数汇总（一次 case 的全部 tiling & swizzle 参数）：
| 参数 | 产出阶段 | 公式/取值 |
|---|---|---|
| baseM, baseN | 阶段 2 | cubeBound 双层枚举（初值 256×256） |
| baseK | 阶段 2 | min(align16(K), L0A/2/dtype/max(baseM,baseN)) |
| singleCoreM/N | 阶段 1/3 | = baseM/baseN（不分层） |
| singleCoreK | 阶段 1 | = K |
| kL1, stepKa, stepKb | 阶段 3 | stepK 枚举（容量 + 256B 对齐） |
| depthA1, depthB1 | 阶段 3 | stepK × 2 |
| stepM, stepN | 阶段 1 | = 1 |
| dbL0C, ubDB | 阶段 2 | 容量判断 ×2 ≤ L0C ? 2 : 1 |
| l1BufferNum | 阶段 4 | abL1×4 ≤ L1 ? 4 : 2 |
| usedCoreNum | 阶段 2 | min(B·mCore·nCore, 32) |
| mTailCnt, nTailCnt | 阶段 5 | CalcTailBasicBlock（尾块再拆分） |
| aswWindowLen | 阶段 5 | ⌊√32⌋=5 向下最大因子 → 4 |
| l2CacheDisable | 阶段 5 | SetDisableL2cache（totalSize vs L2） |
| iterateOrder | 阶段 1 | ITER_COL_FIRST（列优先） |
| apiLevel | 阶段 4 | TENSOR_LEVEL / BASIC_LEVEL |
| mmadParam | 阶段 5 | HF32 / S8S4 shift |
7.2 理论最优实现的程序实现流程图
理论实现按 §5 的推导链组织（§5.1→§5.9），host 端全流程闭式计算，每个判定均可用 B/M/K/N/dtype 与芯片规格的闭式表达。
阶段 0：分支进入与降核判定（§二/§5.9）
[B, M, K, N, dtype]
│
▼
<P = ⌈C/B⌉（最少切分块数）
P < C 且 K 不够走 StreamK 切分？ ──是──▶ 降核模式（§5.9）：
usedCoreNum = ⌈P⌉，singleCoreM×singleCoreN
在 L0C 容量内取最大，无 swizzle/L2 切分
│否
▼
进入 ASW_Basic 主体
阶段 1：BaseM/BaseN/BaseK（§5.1/§5.7，L0 级 tile）
<BaseM = BaseN = ⌊√(L0C/4B)⌋16 = 256（方形，L0C 单缓冲满载）
例外：M < 256 → BaseM = ⌊M⌋16、BaseN = min(65536/BaseM, N)（被迫非方形）
N < 256 对称
L0C 流水选择（UnitFlag vs dbL0C 边界判定，见 L0C 流水机制分析 v1.0）：
计算/写出 Bound 且 2·tile > L0C → UnitFlag 单缓冲（tile 上限翻倍）
MTE2 Bound → 单缓冲即可；带变换/多 batch 分区 → 双缓冲
baseK = min(L0A/(2·BaseM·dtype), L0B/(2·BaseN·dtype)) 向下 16 对齐>
→ BaseM, BaseN, baseK, unitFlag/dbL0C
阶段 2：SingleCoreM/N 确定（§5.2 完整枚举，本次 v1.5 重写的核心）
<P = ⌈C/B⌉
├─ P = 1（B ≥ C）：
│ mCnt = nCnt = 1, singleCoreM = M, singleCoreN = N
│ kL1 = min(K, ⌊L1/(2(M+N)·dtype)⌋16)
│ 约束 3 检查：kL1·dtype ≥ 256B、M·kL1·dtype ≥ min_TileSize、
│ kL1·N·dtype ≥ min_TileSize
│ ✓ → 确定（tile 跟随 M/N）；✗ → 强制切分进入 P>1 流程
└─ P > 1（B < C）——有界枚举：
枚举空间：mCnt ≤ ⌈M/BaseM⌉、nCnt ≤ ⌈N/BaseN⌉（约束 4 上界）
且 B·mCnt·nCnt ≥ C（约束 1）
对每个候选执行评估流水线：
① 对齐：sM = align16(⌈M/mCnt⌉), sN = align16(⌈N/nCnt⌉)
② 约束 4：sM 为 BaseM 整数倍、sN 为 BaseN 整数倍 → 否则剔除
③ 约束 2：kL1 = min(K, ⌊L1/(2(sM+sN)·dtype)⌋16)
④ 约束 3：kL1·dtype ≥ 256B、sM·kL1·dtype ≥ min_TileSize、
kL1·sN·dtype ≥ min_TileSize → 否则剔除
⑤ 目标：T_MTE2 = MN/(C/B)·(1/sM + 1/sN)·kL1·dtype/BWpc
最优选取：T_MTE2 最小；并列取 r = B·mCnt·nCnt mod C 最大>
→ singleCoreM, singleCoreN, kL1, mCnt, nCnt, r
阶段 3：核间分配（§5.3/§5.4）
<usedCoreNum = min(B·mCnt·nCnt, C)（降核场景为 ⌈P⌉）
线性映射：块 (b, m, n) 字典序编号，核 i 处理块 i, i+C, i+2C, ...
切分维度选择（共享代价从低到高）：
切 B（零共享，先试）→ 切 M（KN·dtype ≤ L2 则右矩阵驻留 L2）
→ 切 N（对称）→ 混合切（swizzle + L2 切分管理）→ 降核>
阶段 4：尾轮重切（§5.3）
<n_wave = ⌈B·mCnt·nCnt/C⌉, r = B·mCnt·nCnt mod C
n_wave ≤ 3 且 r > 0 ？ ──否──▶ 不重切（r=0 无尾波；n_wave≥4 收益 <25%）
│是
▼
<判定 Bound 类型：
访存 Bound（T_MTE2 ≥ T_MMAD）：s_max = min(sN·dtype/256B,
kL1·sN·dtype/min_TileSize, sN/16)
计算 Bound（T_MMAD > T_MTE2）：s_max = sN/16
s* = min(⌊C/r⌋, s_max)
切分方向：优先沿 N（A 行带完整、L2 中 A 不变）；
N 向对齐卡住（sN/16 < C/r）改沿 M（A 的 dValue=kL1·dtype 不变）>
→ s*, 尾轮 tiling 变体（host 端预处理，零 NPU 代价）
<策略 B 分支（§5.10）：r > C/2（计算 Bound）或访存 Bound 且 dValue 满足时，
改为整轮均匀重切——N_blk' = ⌈N_blk/C⌉·C，回到阶段 2 重新枚举 SingleCoreM/N>
阶段 5：swizzle 与错位分核（§5.5/§5.6）
<W = max{d : d | C, d ≤ ⌊√C⌋}（C=32 → W=4）
执行序：窗口内 M 向 W 个基本块最快 → 扫满 W 行进下一列 N
→ 窗口扫完进下一窗口，奇数窗口行 N 向蛇形反转
错位分核：同一波 C 核落对角线上，冲突数
transConflict = max(⌈C/mCnt⌉, ⌈C/nCnt⌉) ≤ 6（经验阈值）
calOrder：按形状选共享矩阵更能驻留 L2 的遍历方向（0=M 优先 / 1=N 优先）>
→ W, 遍历顺序, calOrder, transConflict 校验
阶段 6：L2 分组（§5.6，工作集超 L2 时）
<S_in = B(MK+KN)·dtype, S_out = B·MN·outB
├─ S_in + S_out ≤ L2 → 场景 A：全驻留，r_in = 1，无需分组
├─ S_in ≤ L2 < S_in + S_out → 场景 B：输入驻留 + 输出直写 GM
│ （校验 (S_in+S_out)/T_MMAD ≤ W_GM 总线不爆）
└─ S_in > L2 → 场景 C：分组执行
D = L2/(B·K·dtype)
m_grp = ⌊D/(2·sM)⌋, n_grp = ⌊D/(2·sN)⌋
组数 = ⌈mCnt/m_grp⌉ × ⌈nCnt/n_grp⌉
r_in = (n_grp·M + m_grp·N)/(M+N)
软件手段：Cache Hint（A/B allocate、C non-allocate）+ CMO
+ 执行顺序（组内 swizzle，最主要的 L2 管理手段）>
→ m_grp, n_grp, cacheHint, 执行组划分
阶段 7：核内参数汇总与端到端校验（§3.1）
<全部参数定稿：
BaseM/BaseN/baseK、singleCoreM/singleCoreN、kL1、mCnt/nCnt、usedCoreNum、
unitFlag/dbL0C、l1BufferNum、s*（尾轮）、W、calOrder、m_grp/n_grp
端到端时延校验：
T = max(T_MTE2, T_MMAD, T_FIX) + T_drain（含尾轮修正 ΔT_tail^re）
不满足预期 → 回溯阶段 2 调整 singleCore 候选重新评估>
→ 完整 tiling & swizzle 参数集下发 NPU
理论产出参数汇总（与源码参数的对应关系）：
| 参数 | 产出阶段 | 公式/取值 |
|---|---|---|
| BaseM, BaseN | 阶段 1 | ⌊√(L0C/4B)⌋16 = 256（方形；M/N 过小被迫跟随） |
| baseK | 阶段 1 | min(L0A/(2·BaseM·dtype), L0B/(2·BaseN·dtype)) ↓16 |
| singleCoreM/N | 阶段 2 | P=1 不切分（=M/N）；P>1 有界枚举 + T_MTE2 最小 |
| kL1 | 阶段 2 | min(K, ⌊L1/(2(sM+sN)·dtype)⌋16) |
| mCnt, nCnt | 阶段 2 | ⌈M/sM⌉, ⌈N/sN⌉ |
| usedCoreNum | 阶段 0/3 | min(B·mCnt·nCnt, C)；降核 ⌈P⌉ |
| unitFlag/dbL0C | 阶段 1 | Bound 类型 + 容量联合判定 |
| l1BufferNum | 阶段 7 | L1 余量 → 2/4 buffer |
| s* | 阶段 4 | min(⌊C/r⌋, s_max)（Bound 分级约束） |
| W | 阶段 5 | `max{d : d |
| calOrder | 阶段 5 | 共享矩阵驻留方向选择 |
| m_grp, n_grp | 阶段 6 | ⌊D/(2·sM)⌋, ⌊D/(2·sN)⌋ |
| cacheHint | 阶段 6 | A/B allocate、C non-allocate |
7.3 两张流程图的差异对照
| 步骤 | 源码 ASW_Basic | 理论最优 | 差异本质 |
|---|---|---|---|
| 进入判定 | 转置一致性/等 batch/dtype 白名单 | P 计算 + 广播 + 降核判定 | 源码只拦不支持的输入；理论从并行度出发 |
| BaseM/N | 硬编码 256 起 + cubeBound 枚举收缩 | L0C 单缓冲 256 + UnitFlag 流水 | 源码无 UnitFlag；理论按 Bound 类型选流水手段 |
| baseK | L0A/2/dtype/max(baseM,baseN) |
min(L0A/(2·BaseM), L0B/(2·BaseN))/dtype |
源码取 max 保守（矩形 tile 下另一侧溢出风险）；理论方形双侧用满 |
| singleCore | = baseM/baseN（不分层） |
≥ Base，独立枚举（P=1 不切分） | 源码 K 小时过度切分，搬入时延可达理论 2 倍（§6.3） |
| 目标函数 | cubeBoundParam + balanceRate 帕累托（0.85/0.9 经验常数） | T_MTE2 闭式最小 | 源码多经验常数；理论有闭式表达式与完备性论证 |
| 核间分配 | usedCoreNum = min(B·mCore·nCore, 32) |
同 + 降核模式（⌈P⌉） | 源码无降核（P<C 时仍全核调度） |
| 尾轮 | CalcTailBasicBlock（尾块再拆分，不重切） | 尾轮重切 s*（host 零代价，Bound 分级约束） | 源码不重切，依赖枚举时选尾波小的组合 |
| swizzle | aswWindowLen = 4 + 蛇形（UpdateBasicIndex） | 同公式（W 推导自足迹最小化） | 一致（§6.5） |
| 错位分核 | 每轮 GetCurrentBlockIdx 动态取块 |
transConflict ≤ 6 + calOrder 显式建模 | 理论显式建模冲突上限与遍历方向 |
| L2 管理 | SetDisableL2cache（totalSize vs L2 → uncache 标志） | 三场景分组 + 写出联合决策 + Cache Hint/CMO | 源码无执行组划分、无输出直写决策（§6.6） |
| UnitFlag | 未启用 | 计算 Bound 启用（tile 内 512B 块流水） | 流水手段代际差异 |
参考文献
- 昇腾 950 NPU 架构白皮书，华为技术有限公司，2026
- cann-ops-nn 源码仓：batch_mat_mul_v3_asw_basic_tiling.cpp（入口/IsCapable/DoOpTiling）、batch_mat_mul_v3_asw_al1_full_load_basic_tiling.cpp（AL1 全载特化）
- cann-ops-nn matmul 源码仓：matmul_v3_tiling_helper.cpp（ResetBase/GetRebalanceBlock/CalL1Tiling/GetL0C2Out）、matmul_v3_basic_aswt_tiling.cpp（BasicAswt）、matmul_v3_base_tiling_advanced.h（GetTilingData/aswWindowLen/SetDisableL2cache）