基于 issue#3（v0.3）扩展补全。所有分支的进入条件只出现 B/M/N/K 与芯片规格参数，每条条件附简要解释。-
目标芯片：昇腾 950PR / DV100 同档（DAV_3510）。
算子功能：完成带 batch 的矩阵乘计算。
-算子输入：
-[BatchA, M, K]、数据类型 dtype、layout（典型 ND）[BatchB, K, N]、数据类型 dtype、layout（典型 ND）[B, 1, N]、数据类型 dtype、layout（固定 ND），可为空算子输出：输出矩阵（C 矩阵）：[BatchC, M, N]、数据类型 dtype、layout（典型 ND）
计算公式：C = A @ B + bias
其中 A、B 输入维度典型为 3 维，最后两维做矩阵乘计算。例如 A、B 输入维度分别为 (B,M,K)、(B,K,N) 时，C 维度为 (B,M,N)。bias 是维度为 (B,1,N) 的向量。B 为矩阵乘法的 batch 数，M 为 A 的行数和 C 的行数，N 为 B 的列数和 C 的列数，K 为 A 的列数和 B 的行数。
-后文所有分支条件只使用 case 形状参数（B、M、N、K、dtype）与下列芯片规格参数：
-| 符号 | 含义 | 950PR 取值 |
|---|---|---|
| C | AIC 核数（aicNum） | 32 |
| L1 | 每核 L1 Buffer | 512KB |
| L0A / L0B | 每核 L0A / L0B | 64KB / 64KB |
| L0C | 每核 L0C（FP32 累加，4B/元素） | 256KB |
| L2 | L2 Cache 容量 / 带宽 | 128MB / 5.2TB/s |
| W_GM | GM 带宽（读写共享） | 1.6TB/s |
| R | 芯片算存比平衡点（BF16/FP16） | ≈607.5 FLOP/元素 |
| min_TileSize | 单次搬移效率下限 | 16KB |
| min_DatamountPerCore | 单核搬移总量下限 | 480KB |
| minCoreNum | 尾波活跃核数下限 | ≈0.8·C = 26 |
| k_thr | K 向搬移 dValue 下限 | 32B/dtype（BF16 为 16 元素） |
以上经验常数均为该档芯片实测值；换芯片时逻辑结构不变，只换常数表。-
NPU 上 BMM 的执行是核内多级硬件流水的并行——Cube 计算（MMAD）、GM/L2→L1 搬移（MTE2）、L1→L0 搬移（MTE1）、L0C 写出（Fixpipe），多核并行时各流水级时延可被双缓冲（double buffer）等机制相互掩盖，最终：
-总时延 = 流水线最慢的一级。算子优化的关键就是对瓶颈流水级的优化。由此直接得出一个重要的设计自由度——瓶颈交换：当 MTE2（搬移）是瓶颈、MMAD（计算）不是瓶颈时，可以牺牲一定 MMAD 时延（例如冗余计算）换取 MTE2 性能提升；反之，当 MMAD 是瓶颈时，可以牺牲一定 MTE2 时延（例如重复搬移）换取计算效率提升。只要瓶颈级时延下降，总时延就下降。
-后文会看到：MergeBatch 就是"牺牲算力换搬移效率"的典型，ASW_Basic 切 M/N 就是"牺牲搬移（重复读）换并行度"的典型——它们的存在正当性都来自这个 max 模型。
-BMM 在 NPU 上实现的本质是：把参与计算的数据分块（tile），由全部 AIC 核并行 + 串行地完成这些分块的计算，再组合成最终结果：
-分块有 4 个维度：B、M、N、K。核间怎么分这 4 个维度，就是分支划分的第一性问题（核内分块是第二性问题，属于各分支内部的 tiling）。
-从"读入 / 计算 / 写出"三个视角考察每个维度的核间切分特征（这是后续一切推导的基石）：
-| 切分维度 | 读入特征 | 计算特征 | 写出特征 |
|---|---|---|---|
| 切 B | 每个数据块只被固定的 1 个核读取，核间零重复读 | 每个输出块由 1 个核独立完成，无核间依赖 | 只写最终结果，无中间结果 |
| 切 M / 切 N | 切 M 则同一右矩阵块被多核重复读；切 N 则同一左矩阵块被多核重复读 | 每个输出块由 1 个核独立完成，无核间依赖 | 只写最终结果，无中间结果 |
| 切 K | 每个数据块只被固定的 1 个核读取，零重复读 | 每个输出块由多核共同完成，存在核间依赖 | 有中间结果写出，需核间 Reduce 归约 |
不同切分差异的根本原因：
-4 个维度的任意非空子集都可作为一种核间切分方案，共 $2^4-1=15$ 种：
-{B},{M},{N},{K},{B,M},{B,K},{B,N},{M,K},{M,N},{K,N},{B,M,K},{B,M,N},{B,K,N},{M,K,N},{B,M,K,N}
-任何分核实现方案必属于其中一种 ⇒ 这 15 种是完备的。按切分特征分组：
-| 组 | 组合 | 共同特征 | 优化重心 |
|---|---|---|---|
| 只切 B | {B} | 零重复读，读写数据量固定 | 访存 Bound：搬移效率高；计算 Bound：计算效率高 |
| 切 B + M/N 切分，不切 K | {B,M},{B,N},{B,M,N},{M},{N},{M,N} | 可能有重复读 | 访存 Bound：重复读尽量少 + 搬移效率高；计算 Bound：计算效率高 |
| 含 K 切分 | {B,K},{B,M,K},{B,K,N},{B,M,K,N},{K},{M,K},{K,N},{M,K,N} | 可能有重复读；有中间结果写出 + 归约 | 计算效率高，且归约引入的额外 MTE2/Fixpipe 时延不能成为新瓶颈 |
15 种组合的代价结构只由两个布尔特征决定——是否含 K、是否含 M/N。
-三个维度的"核间切分价格"严格排序：cost(切 B) = 0 < cost(切 M/N) ≪ cost(切 K)
-"价格表"不是经验，是 BMM 语义 + L0C 累加机制 + L2/GM 带宽结构三条事实的推论。整条分支决策树就是一句话：按价格从低到高购买并行度，买不够才加价。
-1、问题规约（能降维就不在 BMM 本体里解决）
-2、先买免费的 B 维度
-3、B 维度买不满核，加点价买廉价的 M/N 维度切分
-4、免费和廉价维度 B、M、N 都买不满核，才考虑加价买昂贵的 K 维度切分
-由此推导出 6 大分支：转Matmul、特殊分支、MergeBatch、IterBatch、ASW_Basic、StreamK。
-各分支的进入条件给出的是"主场"；主场之间存在重叠区（如 B ≥ C 且 M×N 中等时 MergeBatch 与 IterBatch 都合法），重叠区的归属由端到端时延模型 $T_{total}$ 仲裁，分支体系保证候选集完备无冗余。-
解释：单边 batch=1 的 BMM 与普通 Matmul 在数学上只差一个维度标签，无需在 BMM 框架内重新发明轮子。
-对于 BatchB = 1：左矩阵 [B, M, K] 的 batch 维与 M 维在 ND 布局下内存相邻、紧排，直接视图为 [B·M, K]；输出 [B·M, N] 与 [B, M, N] 的内存布局逐元素一致；无输入重排，无输出 Split，可直接转 Matmul 无任何代价。
对于 BatchA = 1：需将右矩阵 [B, K, N] 折叠为 [K, B·N]，但 B 的 batch 维与 N 维在内存中不相邻（中间隔 K），折叠等价于一次 [B,K,N]→[K,B,N] 的转置重排（O(B·K·N) 读写），且输出 [M, B·N] 与目标 [B, M, N] 之间存在置换，需要 scatter。
此时当 A 矩阵比较小时（$MK \cdot \text{dtype} \le L1$），优先考虑将 A 矩阵加载到每个核的 L1，然后每个核均匀读取 B 矩阵完成全部计算，此时无需输入/输出重排的额外开销；
-但 A 矩阵较大时，可将 BatchA==1 扩展到 BatchA==BatchB（广播），然后分别按 BMM 其他分支与"B 折叠转 Matmul + 重排"预估时延，择优选型。
-每个核负责多个 Batch 的 Matmul 计算，核间无需同步或通信。假设单核每次要完成 b 个 Batch 的 Matmul 计算，单核计算时将 [b,M,K]@[b,K,N]=[b,M,N] 转换合并成 [bM,K]@[K,bN]=BlockTrace([bM,bN])=[b,M,N]。所谓 BlockTrace 指以 [M,N] 的 block 粒度将结果矩阵的块对角线取出作为输出；交叉项（不同 batch 的 A 与 B 的乘积）被算出但丢弃，浪费比例 (b−1)/b——进入该分支的 case 必然是访存 Bound（条件 5 保证），浪费的算力被搬移时延掩盖。
-进入 MergeBatch 分支需同时满足以下条件（b0 为单次合并数下限，b0 ≥ 2）：
-1、batch 关系与每核份额
-解释：无广播才能逐 batch 对应合并；每核至少分到 $2b_0$ 个 batch——$b_0$ 是"合并搬移有收益"的最小合并数（经验值 4，即 $b_{core} \ge 4$ 时至少能合并 2 组），2 组起步才能构成组间乒乓流水。
-2、L0C 容量
-解释：合并 $b_0$ 个 batch 的输出块 $[b_0 M, b_0 N]$（FP32 累加、双缓冲两份）必须放得下 256KB L0C。连最小合并都放不下，合并无从谈起。
-3、单核搬移总量
-解释：单核搬移数据总量不足时 GM 带宽利用率上限被压低（经验约束）。
-4、搬移 tile 大小
-解释：单 batch 单矩阵的最大连续搬移块须达到单次搬移效率下限；合并只是在此之上进一步放大。
-5、访存 Bound（算力浪费可被掩盖）
-解释：合并把单次计算的算存比放大 $b_0$ 倍后仍须低于芯片平衡点 R，保证瓶颈留在搬移侧——冗余算力被搬移时延掩盖，而不是反过来成为新瓶颈。
-确定 Tiling 参数，重点是确定 $b_{L0}$、$k_{L1}$、$b_{L1}$。
-Step 1：基于 L0C 容量 + 访存 Bound 约束，先确定每次计算的合并数 b
-b 尽量取 $b_{core}$ 的因子（每次计算的合并数均匀一致，负载与功耗更优）。
-**Step 2：基于 $b_{L0}$ 和 L0A/L0B 确定 $k_{L0}$**
-解释：L0A/L0B 各 64KB、双缓冲两份，装入合并后 $bM$ 行（或 $bN$ 列）× $k_{L0}$ 的 fractal；第三项保证 K 向内轴 dValue ≥ 32B 的搬移下限。
-**Step 3：基于 $k_{L1}$ 和 L1 容量确定 $b_{L1}$**
-解释：$k_{L1}$ 是 GM→L1 的 K 向粒度，须满足 128B 对齐（dValue 效率）；L1 双缓冲两份，每份驻留 $b_{L1}$ 个 batch 的 A、B 各一块；要求 $b_{L1} \ge b$（L1 驻留组不小于单次合并数，否则合并断供）。
-核间按 B 分核（每核 1 个或多个 batch），核内逐个 batch 分别执行标准 Matmul 分块计算。无算力浪费、无跨 batch 依赖，是"切 B"最朴素的形态。
-进入 IterBatch 分支需同时满足以下条件：
-1、batch 关系与每核份额
-2、负载均衡
-解释：切 B 零共享零依赖，唯一系统性风险是负载不均。B 整除核数时完全均衡；不整除时要求尾波中活跃的核数不少于 minCoreNum（≈0.8C=26），保证尾波也有足够核并发以维持 GM 带宽利用率。
-3、L1 容量约束（五选一）——核心要求：单核数据不重复读
-注意：IterBatch 能否进入不取决于算存比判定。即使 case 本身是计算 Bound，只要 L1 放不下单核要处理的完整输入（M、N 维度的 A/B 数据），就会产生跨 batch 的重复读，额外搬移可能把算子重新拖回访存 Bound。所以进入条件必须直接由 L1 容量刻画：
-a) 单核单 batch 完整驻留：
-解释：每核 1 个 batch，左右矩阵同时驻留 L1，零重复读。
-b) 单核多 batch 乒乓：
-解释：L1 同时放下 2 个 batch 的输入，构成 batch 间双缓冲流水。
-c) 单 batch 放不下：一侧完整驻留、另一侧按 Step 切分：
-解释：Step 为大于 1 的正整数。左（或右）矩阵完整驻留 L1、只搬一次，右（或左）矩阵按 K（或 M）切 Step 段流水搬入——驻留侧零重复读，切分侧重复读 M（或 N）维但每段仍整块连续。
-d) 多 batch 时 (c) 的乒乓版本（容量预算减半）：
-e) 左右都按 K 切分：
-解释：两侧矩阵都装不下时，统一按 K 切 Step 段，A/B 成段配套搬入。
-4、Step 切分后的带宽效率
-(c)(d)(e) 切分后的每个搬移分块须满足：
-解释：切分是把粒度切小，必须守住搬移效率下限，否则切分本身把带宽打崩。
-情形 (a)：每核 1 batch 直接搬入 L1。L1→L0 时先看 L0C 能否放下完整单 batch 输出 M×N：
-if (L0C >= M*N*4B): # L0C 放得下完整输出
- BaseM = M; BaseN = N
- BaseK = min(align(L0A/M, 16), align(L0B/N, 16)) # 只切 K
-else: # L0C 放不下，按较小维切
- if M < N:
- BaseM = align(M, 16)
- BaseN = floor(L0C/4B / BaseM)
- BaseK = min(floor_align(L0A/BaseM, 16), floor_align(L0B/BaseN, 16))
- else:
- BaseN = align(N, 16)
- BaseM = floor(L0C/4B / BaseN)
- BaseK = min(floor_align(L0A/BaseM, 16), floor_align(L0B/BaseN, 16))情形 (b)：L1 放下 2 个 batch 则按 batch 做 double buffer，核内 GM→L1→L0→Cube→L0C→GM/L2 流水。L1→L0 分块：
-if (L0C >= 2*M*N*4B): # 双 buffer 放得下两份完整输出
- BaseM = M; BaseN = N
- BaseK = min(floor_align(L0A/M, 16), floor_align(L0B/N, 16))
-else:
- if M < N:
- BaseM = align(M, 16)
- BaseK = min(floor_align(L0A/2/BaseM, 16), K)
- BaseN = max(floor_align(L0C/2/4B/BaseM, 16), floor_align(L0B/2/BaseK, 16))
- else:
- BaseN = align(N, 16)
- BaseK = min(floor_align(L0B/2/BaseN, 16), K)
- BaseM = max(floor_align(L0C/2/4B/BaseN, 16), floor_align(L0A/2/BaseK, 16))情形 (c)：每核 1 batch，L1 放完整一侧矩阵 + 另一侧的一部分。假设 L1 放完整左矩阵和部分右矩阵，关键是确定右矩阵搬入的 K 向长度：
-fixpipe 应开 unitflag（单侧驻留场景下输出通路按单元化组织）。情形 (d)(e) 同理，按各自容量预算计算 Step 与分块。
-1、并行缺口存在（B/M/N 用尽仍填不满核）：
-解释：以 Cube 最小分形（16×16）为粒度，B×M×N 三维最多切出 P 个互不依赖的输出块；P < 32 意味着不切 K 必有核闲置。
-2、K 足够长（归约代价可接受），设核间切 K 的份数为 $grid_K$：
-解释：第一式保证单核 K 段不太碎、核内 tiling 效率不崩。第二式来自 $T_{MMAD/core} \ge \alpha \cdot T_{Reduce}$（安全系数 α≈10）：每核计算时延 ∝ $MNK/grid_K$（除以单核 Cube 速率），归约时延 ∝ $grid_K \cdot MN \cdot 4\text{B}$（除以 GM 带宽）——归约流量随 $grid_K$ 线性涨、每核收益也随 $grid_K$ 线性涨，相抵后对 K 的要求随 $grid_K$ 平方增长。数值上：$grid_K$=2 → K≥6.8K；4 → K≥27K；8 → K≥108K；32 → K≥1.7M（仅极端 case）。
-核间组织：先按 B/M/N 切出 P 个输出块，再把剩余核预算折成 K 向份数。对每个 batch：
-其中 mCnt、nCnt 收拢为 blocksPerBatch 的因子（避免碎核尾块）；由条件 1 知 $mCnt \cdot nCnt \le blocksPerBatch/2$，故 $grid_K \ge 2$。每个输出块由 $grid_K$ 个核组成的归约组共同计算，组内核 c 负责 K 段 $[c \cdot K/grid_K,\; (c{+}1) \cdot K/grid_K)$，$singleCoreK = K / grid_K$。
-核内流水：每核对自己的 K 段做标准分块流水（MTE2→L1→L0→mmad），段内多轮在 L0C 原地累加；段算完后部分和经 Fixpipe 写出。
-归约（两种方式）：
-参数搜索：$grid_K$ 从 2 起按 2 的幂递增，取同时满足条件 2 两式的最小值（归约代价最小）；若到 $grid_K = blocksPerBatch$ 仍不满足条件 2，则该 case 不宜 StreamK，退而接受降核的部分闲置。
-1、并行度补齐（B 买不满核时，M/N 平面能补上）：
-解释：基本块粒度 $M^t \times N^t$ 受 L0C 容量封顶（最小 16×16）；按此粒度 B×M×N 能切出至少 C 个独立输出块，则切 M/N 的并行度够用。
-2、典型进入路径：$B < C$（切 B 买不满核），或 $B \ge C$ 但 IterBatch/MergeBatch 条件不满足（L1 驻留失败、负载不均、MergeBatch 上下限无交集）时的兜底。无 batch 结构限制——交叉广播 case 也落入本分支。
-解释：切 M/N 的固有代价是共享矩阵被多核重复读，但共享部分若能驻留 128MB L2，重复读以 5.2TB/s 命中 L2 而非 1.6TB/s 的 GM，代价大部分被吸收；配合 swizzle 压缩同时活跃的工作集，代价进一步压低。
-1、核间切分维度选择（按共享代价从低到高）：
-2、swizzle：ASW 滑窗蛇形。M 向按窗口 W 分组，窗内 N 向蛇形遍历（偶数窗行正向、奇数窗行反向）：
-数学效果：同一时刻 C 个核的活跃工作集被压缩到"W 个 A 行块 + 一条 B 列块带"，L2 足迹最小，共享读取基本命中 L2。窗口取 $\lfloor\sqrt C\rfloor$ 的最大因子：窗越接近方形、A/B 两侧足迹之和越小，且因子性保证整窗被核数均分、窗口边界不碎。
-3、L2 切分：工作集超过 128MB 时按 mL2TileNum × nL2TileNum 切块，每个 L2 块内错位分核（对角线分配），避免多核同时抢同一地址的读读冲突，并优先选拖尾小的方案。
-4、核内 tiling：baseM/baseN 由 L0C 容量（$M^t N^t \cdot 4\text{B} \cdot DB \le L0C$）与计算访存比（$1/M^t + 1/N^t$ 越小越接近 Cube Bound）联合选取，优先整除 M、N 减少尾块；baseK 由 L0A/L0B 反推（$M^t K^t \cdot \text{dtype} \cdot 2 \le L0A$，$K^t N^t \cdot \text{dtype} \cdot 2 \le L0B$），内轴对齐 128B/256B；L1 按容量开双缓冲，余量充足时开 4 buffer。
-5、内部特化（参数极限，不是独立分支）：
-K = 0：无任何计算，C = bias 或 0，纯 AIV 写值。
-K = 1：退化为逐元素乘 C = A ⊙ B，无累加深度，Cube 的 16×16×16 粒度浪费 15/16，走 AIV 向量通路（GM→UB→Mul→GM）优于 Cube 通路。
解释：这一层与"切分维度"正交，是计算通路选择的前置判断——K 退化时 Cube 完全或几乎无用，AIV（64 核、每拍 256B）纯向量流水更优。触发需 batch 足够多（≥ 2×AIV 核数，开 UB 乒乓）且单 batch 输入输出能驻留 UB。
-