Fix #40: 切换 Cube 算力为白皮书 Cube-only 口径 (单核统一 13.5T)
用户裁决: cube_peak_tflops 取白皮书表3-1 "Cube算力" 单行 (不含 Vector)。 - 数值: 950PR 486->432, 950PR_C28 425->378, 950DT 547->486, 950DT_C32 486->432, 950DT_C28 425->378; 单核全系列精确 13.5T (16^3 MAC/拍 x 1.65GHz), 28 核档 0.06% 取整偏差随之消失 - 传导 (无结构改动, 全部经 q16/q_cube/r16 派生): MMAD 时延 x486/432 (+12.5%); R16 607.5->540 (MergeBatch 条件5/b0 上限); StreamK θ_c 12.24->10.9; ASW 面积/周长分界 93.5->83.1, MMAD/FIX 304->270 - 文档同步: README, docs/00 (R16 公式), 04 (607.5 实例), 05 (硬件事实/复核算例), 06/07 (翻出阈值 187->166), 05_StreamK (θ_c 及 K 阈值 396->360); 理论归档 (BMM算子优化分析_Release/) 与历史测评报告不动 - 验证: 单测 88/88; examples 重生成 —— recommend 27/44 行变化 (计算Bound 行精确 +12.5%; b8_m32768_n2048_k512 瓶颈 MTE2->MMAD 翻转; 17 行访存主导不变), plans.csv 仅 merge_demo_k_trunc note 的算存比上限 23.7->21.1 一处文案; 压力回归 10000 例干净, MergeBatch 386->392 / IterBatch 2389->2384 (R16 下移致 b0 上限收小, 边界 case 换边, 预期行为)
This commit is contained in:
@@ -17,12 +17,14 @@ $$T_{MMAD} = \frac{2\cdot sM\cdot sN\cdot K}{Q_{16}},\qquad T_{MTE2} = \frac{K(s
|
||||
| 对比 | 判据 | 决定因素 |
|
||||
|---|---|---|
|
||||
| MMAD vs MTE2 | `sM·sN/(sM+sN)` ⋛ `dt·Q16/(2·BW_eff)` | **tile 尺寸**(K 约掉) |
|
||||
| MMAD vs FIX | `K` ⋛ `outB·Q16/(2·BW_pc)` ≈ 304 | **K** |
|
||||
| MMAD vs FIX | `K` ⋛ `outB·Q16/(2·BW_pc)` ≈ 270 | **K** |
|
||||
|
||||
(Q16 为 Cube-only 口径 13.5T(issue#40):MMAD/MTE2 分界 93.5→**83.1**,MMAD/FIX 分界 304→**270**。)
|
||||
|
||||
**缩放类型二分**:MMAD 与 FIX 都 ∝ 面积 sM·sN,MTE2 ∝ 周长 (sM+sN)。
|
||||
|
||||
- **面积型主导**(MMAD 或 FIX 最大):tile 大(sM·sN/(sM+sN)≥93.5,L2 命中)且(K≥304 时 MMAD、K<304 时 FIX)——**主流 prefill/decode case 均属此类**;
|
||||
- **周长型主导**(MTE2 最大):tile 小(<93.5,L2 命中)或工作集超 L2 的 GM 直读(<304)——边角 case。
|
||||
- **面积型主导**(MMAD 或 FIX 最大):tile 大(sM·sN/(sM+sN)≥83.1,L2 命中)且(K≥270 时 MMAD、K<270 时 FIX)——**主流 prefill/decode case 均属此类**;
|
||||
- **周长型主导**(MTE2 最大):tile 小(<83.1,L2 命中)或工作集超 L2 的 GM 直读(<270)——边角 case。
|
||||
|
||||
## 2. 四种策略定义
|
||||
|
||||
@@ -54,7 +56,7 @@ $$\big(n_{wave}-1+\sqrt{\rho}\big)^2 \le n_{wave}(n_{wave}-1+\rho) \iff (\sqrt{\
|
||||
|
||||
**A1b 周长和恒 ≤ 方案 B**(搬入总量少、L2 重复读少、掩盖余量大)。离散 16 对齐后时延互有胜负(<3%,数值依赖、无系统性方向)。
|
||||
|
||||
**尾轮翻出修正**(§7.2.4):面积型主导但 r 小(ρ < (187/s)²)时 A1b 尾轮 tile 缩得太小,周长/面积比上升使主导项翻转为周长型(搬入翻出),方案 B 的全局 tile 缩得温和(1/√g > √ρ 恒成立)不翻出——**r 小的面积型 case 方案 B 可微优 ~6%**。
|
||||
**尾轮翻出修正**(§7.2.4):面积型主导但 r 小(ρ < (166/s)²,Cube-only 口径下 187→166,issue#40)时 A1b 尾轮 tile 缩得太小,周长/面积比上升使主导项翻转为周长型(搬入翻出),方案 B 的全局 tile 缩得温和(1/√g > √ρ 恒成立)不翻出——**r 小的面积型 case 方案 B 可微优 ~6%**。
|
||||
|
||||
## 4. 周长型主导(边角场景)
|
||||
|
||||
@@ -79,7 +81,7 @@ $$\big(n_{wave}-1+\sqrt{\rho}\big)^2 \le n_{wave}(n_{wave}-1+\rho) \iff (\sqrt{\
|
||||
| 1 | r = 0 | A0 | n_wave·T_block |
|
||||
| 2 | 面积型,0<r≤C/2,无翻出 | A1a,s*=⌊C/r⌋ | T_block(n_wave−1+1/s*) |
|
||||
| 3 | 面积型,r>C/2,无翻出 | A1b 或方案 B(严格打平) | T_block(n_wave−1+ρ) |
|
||||
| 4 | 面积型,ρ<(187/s)²(翻出) | 方案 B | T_block·n_wave/g |
|
||||
| 4 | 面积型,ρ<(166/s)²(翻出,issue#40 口径) | 方案 B | T_block·n_wave/g |
|
||||
| 5 | 周长型,ρ≥ρ_dv,B 可行 | A1b | T_load(n_wave−1+√ρ) |
|
||||
| 6 | 周长型,ρ<ρ_dv 且分界成立且 B 可行 | 方案 B | T_load·n_wave/√g |
|
||||
| 7 | 周长型,广义 B 损失>0 | A1b(恒不劣) | 广义枚举 min w×T_block |
|
||||
|
||||
Reference in New Issue
Block a user