Decompose good/bad selection split across frozen surfaces

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
2026-07-20 12:05:20 +08:00
parent 18c0b25ae7
commit 39766141fb
54 changed files with 24465 additions and 5 deletions

View File

@@ -0,0 +1,60 @@
# 实验 S0good/bad case 分裂的统一分解margin vs differential residual
> **状态:** 已完成2026-07-20含 S0b 方向化修正与一轮 strict review 修复)
>
> 用户指令:核心要务是分析为什么部分 case 下 Frontier work、部分不 work 的 system 根因;本 card 是该诊断 campaign 的第一个 slice仅使用 frozen artifacts零 GPU 成本。人工 review 由用户的直接指令("只有做好这个分析我们才能推进下一步")满足。
## Claim 与决策
- **Parent claim** ongoing.md H2——误差机制是 action-conditioned residual本实验把它细化为"分裂从哪来"。
- **现象(已冻结):** 同一 best-effort Frontier 栈上Q30/Q235 的 Trace-PD 与多数 PO 面 selection 近优,而 Fixed-PD 面 1458% regret失败 objective 随负载档切换Q30 低压 TPOT/E2E 全反、高压 TTFT 5658%A1 collective profile 修复了 Q235 Trace-PO p90 21.2%→0.3% 但对 Fixed-PD 33% 完全无效(本 card frozen-inputs/q235-ablation-a1
- **Competing hypotheses**
- **H-SCALE** 分裂完全由「config-differential residual vs 真机 decision margin」的关系解释good case 的 sim/real 比值跨 config 近似均匀乘性偏移argmin 不变bad case 的比值跨 config 分散且超过 margin。workload shape 本身不需要出现在解释里。
- **H-THRESH** 绝对 service-time 高估近似均匀但与离散机制MNS admission cap、MoE token-bucket、graph bucket交互后被转换为 config-differential 误差fixed uniform workload 把所有请求同步到同一 state 轨迹,使阈值交叉对整个 cell 相干生效trace 的长度/到达异质性把阈值效应摊平。
- **H-STATE** 失败由 simulator 闭环 batch state 分布漂移主导Q235sim decode batch 13.5 vs real 3.9 + B4→B5 profile cliff 正反馈);即使打破 workload 同步性,闭环漂移仍可翻转排序。
- 三者关系H-SCALE 是现象层必要条件H-THRESH/H-STATE 是 differential residual 的两种产生机制,可共存但可判别(见事前预测)。
- **事前预测:**
- H-SCALE 成立 ⟺ 对每个 case×objectivefailure 恰好发生在「top 邻域 log-ratio spread > log1p(真机相对 margin)」处(两侧同为 log-space 尺度),无反例。
- H-THRESH 独有bad case 的 differential 误差集中于阈值语义分量first-scheduling wait、bucket 跳变段),且 sim-only 反事实(去阈值/加 jitter恢复排序——Q30 高压 TTFT 的 admission 反事实已支持一例。
- H-STATE 独有:差异化误差在去掉阈值分量后仍在 execution 项内Q235 Fixed-PD 的 own-composition 20.07 vs exact-state +10.90 已支持一例)。
- **判定规则:** S0 只裁决 H-SCALE 与「分量定位」queue vs executionH-THRESH/H-STATE 的干预判别属 S1+sim-only 反事实)与 GPU 实验(需另行 review。若 H-SCALE 出现反例good case 有 spread>margin 仍选对,或 bad case spread<margin必须原样报告不得平滑
## Setup
- **输入全部 frozenruns/frontier-split-rootcause-v0/frozen-inputs/** q30-trace-pdgraph-piecewise comparison)、q30-fixed-hifixed-pd/fixed-po 高压面)、q30-expansion-lo低压 fixed-pd/fixed-po/trace-po)、q235-fourcase-a0q235-ablation-a1+provenance)、q235-state-diagq30-admission-diag来源 cpfs 路径与 SHA 见各目录内 manifest/launch 记录
- **计算 case×objective** per-config 比值 r_c=sim_c/real_cconfig-uniform scale=geomean(r_c)differential residual=log-ratio spread surface 与真机 top-3 邻域各一真机 relative marginbest 2nd-bestbest sim-winner 的真机值差failure flag=regret>5%H-SCALE 检验=failure ⟺ 邻域 spread>log1p(margin)review 修正:初版直接以 ln 差比较普通 relative margin尺度不一致修正后 70 行 verdict 不变)。
- **分量定位:** q30-admission-diag 提供 TTFT=first-scheduling wait+prefill execution 分解q235-state-diag 提供 own-composition vs exact-state contrast把这些已知分量证据合并进统一表。
- **交叉核对:** 重算的 regret 必须与各 frozen comparison.md 表一致(抽查 58.0%、33.0%、0.0%A0 vs A1 的 Q235 对比必须复现 trace-po p90 21.2%→0.3%、fixed-pd 四项不变。
## 预期产物与 review
- runs/frontier-split-rootcause-v0/analyze_split_decomposition.py只读 frozen-inputs确定性输出
- runs/frontier-split-rootcause-v0/results/decomposition.{json,md}:统一表,每行 case×objective列出 winner、regret、scale、spread全/邻域、margin、H-SCALE verdict、已知分量归因
- runs/frontier-split-rootcause-v0/results/margin-vs-residual.pngx=真机 marginy=邻域 differential residual点色=selection 对错H-SCALE 成立则对错点被对角线分离
- 人工验收:编排者亲自重跑脚本、抽查交叉核对数字、亲自查看渲染图
## 复现信息
- **Code** AITuner branch feature/sim自 HEAD 18c0b25 起worker/reviewer job-id 见下方「Review 与 provenance 补记」;脚本与产物随本 card 同一 commit 入库(含 frozen-inputs 本地拷贝)。
- **Environment** 本地 workstationCPU-onlypython3+matplotlib不访问远端。
- **已知 deviation** frozen-inputs 是 cpfs 原件的本地拷贝scp2026-07-20q30-expansion-lo 的低压 Fixed-PD 面已被高压面取代为 primary本分析将两档并列为独立观测不混合。
## 结果
- **观察事实:**
- 70 行14 个 case surface全部算出无数据缺口四组硬性交叉核对通过连续运行产物 SHA 一致。
- **H-SCALE 判为必要非充分**23 个 material failureregret>5%全部满足「top-3 邻域 log spread > log1p(margin)」,无一例失败发生在 residual 小于 margin 处;但另有 40/70 行同样满足该条件却均非 material failure其中仅 16 行 exact winner match其余 24 行是小 regret 的 winner 错位——14 个 MNS 精确 tie 与 10 个 strict reversal——无方向 spread 不携带决策信息。
- **S0b 方向化后的机制普查**23 个 material failure 的 winner-deciding pair 分布为 tp-axis 11、mixed 10、mns-axis 2Q235 A0/A1 Fixed-PD 的 8 个 TPOT/E2E failure 全为 tp-axisQ30 Fixed-PD 高低压为 tp/mixed仅有的 2 个 mns-axis failure 是 Q235 A0/A1 Trace-PD E2E p90regret 6.2%,勉强越过 5% 门槛。trace 面严格反序中 tp-axis 为 0q30 trace-pd 三轴全 0
- **A1 对照的轴分解**serving-matched collective profile 把 Q235 两个 PO 面的 tp-axis 反序从 4/4 清零trace-po p90 regret 21.2%→0.3%),但 Fixed-PD 仅 5→4、四项 regret 一位小数不动——prefill 路径的 TP-differential 误差源=collective profile可修decode 耦合的 TP-differential 误差另有来源。
- **MNS 不敏感缺陷**14 个 winner-label mismatch 是 simulator 逐位相等的 tie全部 mns-axis如 q30 fixed-po 的 MNS16↔32、q235 fixed-pd 的 MNS64↔128tie 计入后 MNS 边界误差 31 与 TP 严格反序 32 相当,但 MNS 侧 regret 小。
- **成功的鲁棒性**23 个 exact-winner success 中 17 个 margin-robustmargin≥1%6 个 fragile含 q30 trace-pd E2E p90 的 0.1% margin 与 q235 A1 fixed-po 四项)。
- **面级 scale 对照**prefill-only 面 geomean scale 0.961.37×(绝对预测基本准确),含 decode 的面 4.3130×——绝对误差灾难集中于 decode。
- **异常:** 无数据异常。strict reviewFAIL3 Major/1 Minor指出 H-SCALE 尺度混用log spread vs relative margin、tie 轴普查缺失、card 状态过期、Q235 一致性表述过强;全部修复,修复后 70 行 verdict 逐行不变。
- **含义:** 分裂的现象层解释是「margin 保护 + config-differential 误差」。机制层上21/23 个 material failure 由 TP/mixed pair 决定,且所有大 regret≥13%failure 都发生在含 decode 的面上:其中 Q235 Fixed-PD 有 state-drift 直接证据、Q30 高压 TTFT 有 admission 反事实证据,而 **Q30 低压 TPOT/E2E 反转的机制尚未诊断**S1 目标。「decode 耦合的 TP-differential 误差是主要载体」是当前最强归纳,不是对全部 failure 的已证机制归因2 个 mns-axis 边缘 failure6.2%在该归纳之外。trace 面成功伴随「TP 反序为零 + TP margin 宽」但「误差小」与「margin 宽」谁是主因仍未判——这正是 H-THRESH vs H-STATE 的判别缺口。轴标签与机制不一一对应Q30 admission 是 MNS 阈值机制但 deciding pair 为 tp/mixed因 TP 改变到达压力)。
- **Claim update** H2action-conditioned residualsupported 且被细化residual 的决策相关分量集中在 TP 轴、由 decode 状态耦合产生H-SCALE 降级为必要条件H-THRESH/H-STATE 保持 competing待 S1 判别。
- **下一步:** S1sim-only 反事实Q30 低压 Fixed-PD TPOT 反转的分量定位——这是唯一无机制解释的 material failurefixed workload jitter 判别 H-THRESH vs H-STATEGPU 判别实验(加压 Trace-PD、jittered Fixed-PD 真机面dash14另行出 card 供 review。
## Review 与 provenance 补记
- S0 workercodex `task-mrsn1s9c-z6ha0w`S0b`task-mrsnjzn6-k18x4n`resumestrict reviewerfresh 只读):`task-mrsocmlb-386btc`verdict FAIL修复轮`task-mrsop06n-pwxo0b`fresh writable。编排者独立验收脚本重跑、SHA 比对、两图目视检查。
- 产物 SHA修复后decomposition.json `81ea56b2…`、decomposition.md `4d19af54…`、margin-vs-residual.png `df2110c4…`、decision-pair-axis.png `2e787301…`