v1.3: BaseM/N方形优先纠正长宽比跟随说法+SingleCoreM/N跟随M/N的独立理由

BMM算子优化分析_Release/ASW_Basic分支分析_v1.3.md

@@ -229,13 +229,39 @@ BaseM/N 可放大 $\sqrt{2}$ 倍（如 256→362），mCnt/nCnt 相应减小，*
 
 *建议*：对计算 Bound 的 case 启用 UnitFlag（MMAD 与 Fixpipe 流水并行），可将单 tile 时延从 $T_{comp} + T_{write}$ 降至 $\max(T_{comp}, T_{write})$。对访存 Bound 的 case（MTE2 Bound），UnitFlag 收益小（[CANN 文档](https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/ascendcopapi/atlasascendc_api_07_0003.html)：MTE2 Bound 时 MMAD/FIX 流水可被搬移掩盖）。
 
-BaseM/BaseN 的长宽比跟随 SingleCoreM/SingleCoreN（进而跟随 M/N），对齐 16 的倍数。**长宽比跟随的原因**：
+BaseM/BaseN 的长宽比**应尽量方形**（而非跟随 M/N），对齐 16 的倍数。**推导**：
 
-1. **L0 tile 均匀密铺**：SingleCore tile $[\text{singleCoreM}, \text{singleCoreN}]$ 由若干 $[\text{BaseM}, \text{BaseN}]$ L0 tile 密铺而成。若长宽比匹配（$\text{BaseM}/\text{BaseN} \approx \text{singleCoreM}/\text{singleCoreN}$），则 $stepM = \text{singleCoreM}/\text{BaseM}$ 和 $stepN = \text{singleCoreN}/\text{BaseN}$ 接近相等，L0 tile 在两个维度上的切分次数均匀，边缘碎块最少；
-2. **L1→L0 搬移效率匹配**：L0A 搬移 $[\text{BaseM}, baseK]$、L0B 搬移 $[baseK, \text{BaseN}]$。长宽比匹配时，L0A 和 L0B 的搬移量接近（$\text{BaseM} \cdot baseK \approx baseK \cdot \text{BaseN}$），两条搬移通路负载均衡，Cube 不会因等某一侧数据而空转；
-3. **L0C 写出效率**：Fixpipe 从 L0C 写出 $[\text{BaseM}, \text{BaseN}]$ 的结果到 GM。长宽比匹配时，写出块的连续维（N 向）长度与 GM 中 C 矩阵的行 stride 匹配，写出效率最高。
+**1. GM→L1 搬移与 BaseM/N 无关**：GM→L1 搬移的是 $[\text{singleCoreM}, k_{L1}]$（A）和 $[k_{L1}, \text{singleCoreN}]$（B），其 dValue 由 $k_{L1}$（A）和 $\text{singleCoreN}$（B）决定——BaseM/N 的长宽比不参与 GM→L1 搬移参数。**长宽比跟随 M/N 不会改善 GM→L1 效率。**
 
-若长宽比严重不匹配（如 M ≫ N 但 BaseM = BaseN），则 M 向切分次数远多于 N 向，L0A 搬移频繁而 L0B 闲置——Cube 等待 L0A 数据，流水线利用率下降。baseK 由 L0A/L0B 容量决定（L1→L0 搬移无 dValue 要求，dValue 约束的是 GM→L1 的 $k_{L1}$）：
+**2. L0A = L0B = 64KB 等容量 → 方形 tile 用满两侧**：L0A 装 $\text{BaseM} \times baseK$，L0B 装 $baseK \times \text{BaseN}$。若长宽比跟随 M/N（如 M/N = 4：BaseM=512、BaseN=128），则：
+
+$$
+baseK = \min\Big(\frac{L0A}{2 \cdot \text{BaseM} \cdot dtype},\; \frac{L0B}{2 \cdot \text{BaseN} \cdot dtype}\Big) = \min(32,\; 128) = 32
+$$
+
+L0A 装满（512×32×2×2 = 64KB）而 **L0B 只用了 25%**（32×128×2×2 = 16KB）——一半 L0 容量闲置。
+
+方形 tile（BaseM=BaseN=256）：
+
+$$
+baseK = \min\Big(\frac{64\text{KB}}{2 \cdot 256 \cdot 2\text{B}},\; \frac{64\text{KB}}{2 \cdot 256 \cdot 2\text{B}}\Big) = 64
+$$
+
+L0A 和 L0B **同时装满**，且 baseK = 64 是长宽比跟随方案（baseK=32）的 **2 倍**——K 维迭代次数减半，L1→L0 搬移（MTE1）单次搬移量翻倍，Cube 流水线切换开销减半。
+
+**3. 方形 tile 是 L0C 面积约束下的最优**：L0C 约束 $\text{BaseM} \times \text{BaseN} \le 65536$ 只限制面积。在面积固定下，方形使 $\min(\text{BaseM}, \text{BaseN})$ 最大——baseK 的上限由 $\min(\text{BaseM}, \text{BaseN})$ 决定（公式见上），所以方形最大化 baseK。
+
+**4. 例外**：当 M 或 N 小于方形边长时，tile 被迫非方形：
+
+$$
+\text{BaseM} = \min(\lfloor\sqrt{65536}\rfloor_{16},\; M),\qquad \text{BaseN} = \min\Big(\frac{65536}{\text{BaseM}},\; N\Big) \text{ 向下 16 对齐}
+$$
+
+例：M=128、N=4096 → BaseM=128（M 限制）、BaseN=512（L0C 面积限制）——此时长宽比跟随 M/N 是**被迫的**（M 太小），而非主动选择。
+
+**结论**：BaseM/N 长宽比跟随 M/N 的切分方法**站不住脚**——它使 L0A/L0B 容量利用率失衡（一侧闲置）、baseK 减半（K 迭代翻倍）、且对 GM→L1 搬移无任何收益。正确做法是**方形 tile 优先**，仅当 M 或 N 小于方形边长时被迫跟随。
+
+baseK 由 L0A/L0B 容量决定（L1→L0 搬移无 dValue 要求，dValue 约束的是 GM→L1 的 $k_{L1}$）：
 
 $$
 baseK = \min\Big(\frac{L0A}{2 \cdot \text{BaseM} \cdot \text{dtype}},\; \frac{L0B}{2 \cdot \text{BaseN} \cdot \text{dtype}}\Big) \text{ 向下 16 对齐}
@@ -245,10 +271,10 @@ $$
 
 *BaseM/N 的具体确定过程*（host 端枚举，16 对齐遍历）：
 
-1. 从 BaseM = BaseN = $\lfloor\sqrt{L0C/4\text{B}}\rfloor_{16} = 256$ 开始（正方形，L0C 单缓冲上限）
-2. 检查 baseK = $\min(L0A/(2 \cdot 256 \cdot dtype),\; L0B/(2 \cdot 256 \cdot dtype))$ ≥ 128B/dtype（最小高效粒度）
-3. 若 baseK 不足，按比例缩小 BaseM/BaseN（保持长宽比 ≈ M/N），直到 baseK 满足
-4. 若 M ≪ N（或反之），长宽比跟随 M/N：BaseM/BaseN ≈ M/N，面积保持 65536
+1. 从 BaseM = BaseN = $\lfloor\sqrt{L0C/4\text{B}}\rfloor_{16} = 256$ 开始（方形，L0C 单缓冲上限，L0A/L0B 同时满载）
+2. 检查 baseK = $\min(L0A/(2 \cdot 256 \cdot dtype),\; L0B/(2 \cdot 256 \cdot dtype))$ ≥ 128B/dtype（最小高效粒度）；不足时按比例缩小 BaseM/BaseN（保持方形），直到 baseK 满足
+3. 若 M < 256（或 N < 256），BaseM = $\lfloor M \rfloor_{16}$（或 BaseN = $\lfloor N \rfloor_{16}$），另一维取 $\min(65536/\text{BaseM},\; N)$（或对称）向下 16 对齐——此时 tile 被迫跟随 M/N，但这是 M 太小的结果，不是主动选择
+4. 方形 tile 的 L0C 面积利用率：$256 \times 256 / 65536 = 100\%$；被迫非方形时面积利用率 = $\text{BaseM} \times \text{BaseN} / 65536$（M 或 N 小时必然 < 100%，不可优化）
 
 *与源码的差异*：源码默认 baseM=baseN=256（硬编码 "256 is better base"），再由 cubeBound 模型（L2 供数能力 + 溢出惩罚 + K 向复用）枚举收缩。理论直接从 L0C 容量出发，cubeBound 的三项修正可从第一性原理推导：①L2 供数速率 vs Cube 耗数速率 → 访存 Bound 时应缩 tile；②工作集超 L2 → 增大 tile 减少重复读；③K 越大越偏 compute bound → 可放大 tile。两者方向一致，源码多了实测调优的余量（CUBE_BOUND_RATIO=0.85）。
 
@@ -303,7 +329,7 @@ $$
 
 **约束 4——SingleCoreM/N 是 BaseM/N 的整数倍**（工程实现要求，保证 L0 tile 边界对齐）。
 
-*选取策略*：在满足约束 1 的前提下，SingleCoreM/N 尽量大（搬移效率和 L2 复用最大化）。长宽比跟随 M/N（$\text{singleCoreM}/\text{singleCoreN} \approx M/N$），对齐到 BaseM/BaseN 的整数倍。
+*选取策略*：在满足约束 1 的前提下，SingleCoreM/N 尽量大（搬移效率和 L2 复用最大化）。**SingleCoreM/N 的长宽比跟随 M/N**（$\text{singleCoreM}/\text{singleCoreN} \approx M/N$）——这与 BaseM/N 的方形策略不同：SingleCoreM/N 决定 GM→L1 搬移的 nValue/dValue 参数（A 的 nValue=singleCoreM，B 的 dValue=singleCoreN），跟随 M/N 使两侧搬移量均衡、避免一侧搬移过大成为 GM 带宽瓶颈。对齐到 BaseM/BaseN 的整数倍。
 
 *SingleCoreM/N 的具体确定过程*（host 端枚举，与尾轮处理联动）：