Document CollectiveSpec P2 no-go gate
This commit is contained in:
@@ -276,14 +276,16 @@ liveness”的必要性,而不是一般性的形式化证明。
|
||||
|
||||
heterogeneous 的 66 个 shared target epoch 中有 62 个的 raw DP token counts 不相等;现有
|
||||
runtime 将 `rows_across_dp` 同步为共同 shape。按每个 DP replica 的一个 TP anchor 计,
|
||||
target-only physical rows 为 7,024、`num_tokens_per_rank` 为 6,276,metadata 记录的
|
||||
post-coordinate row excess 为 748(10.65% physical rows)。control 相应为 9,596/9,080/516
|
||||
(5.38%)。
|
||||
target-only raw logical rows 为 6,276;逐 epoch 保留当前 TP/CUDA-graph local alignment 后为
|
||||
6,536;最终 physical rows 为 7,024。因此可单独归因给跨 DP global-max padding 的只有
|
||||
488 rows(6.95% physical rows)。此前用 7,024-6,276 得到的 748(10.65%)还混入了 260
|
||||
行本地 alignment,不能当作 compact 对照可回收的 DP work。control 的 row totals 也不与
|
||||
heterogeneous 直接比较,因为 logical plan 和 scheduler trajectory 不同。
|
||||
|
||||
这只能看作 **P2 的 row-count upper bound**,绝不能把 control 与 heterogeneous 相减当作
|
||||
速度收益:两者 logical plan、scheduler trajectory 都不同,748 也混合 DP max-padding、TP
|
||||
对齐与 CUDA-graph padding。更关键的是 EAGLE drafter 仍完成 Kmax 工作;即使理想 compact
|
||||
verifier 回收全部 10.65% target rows,端到端 SLO-goodput 增益也只会更小。
|
||||
速度收益:两者 logical plan、scheduler trajectory 都不同。更关键的是 EAGLE drafter 仍完成
|
||||
Kmax 工作;即使理想 compact verifier 回收全部 6.95% 的 DP-only target rows,端到端
|
||||
SLO-goodput 增益也只会更小。
|
||||
|
||||
因此决策为:
|
||||
|
||||
@@ -309,6 +311,9 @@ stress,或其他模型/后端/更大 K 的泛化;这些都不能从本结果
|
||||
dummy/profile records 分别为 676/640,已排除。
|
||||
- heterogeneous K:min=0,max=3,distinct=4;control K distinct=1。所有计数、rows 和
|
||||
padding 非负;JSON parse errors=0。
|
||||
- heterogeneous 的 66 target epochs:两个 DP rank 的 raw row values 共 n=132,min=1、
|
||||
max=77、distinct=35;physical rows n=66,min=4、max=80、distinct=14;分解
|
||||
`6,276 <= 6,536 <= 7,024` 与 `7,024 - 6,536 = 488` 均成立。
|
||||
- 修正后的不变量均为 true:probe integrity、8 workers observed、每个 DP replica 内 target
|
||||
phase/sequence 一致、target DP metadata 合法、DP coordination record 存在、四个真实 DP pair
|
||||
的 shared scalar coordination signature 一致。
|
||||
|
||||
Reference in New Issue
Block a user