Files
aituner/.research/experiments/frontier-split-rootcause-s0-20260720.md
2026-07-20 12:05:20 +08:00

9.7 KiB
Raw Blame History

实验 S0good/bad case 分裂的统一分解margin vs differential residual

状态: 已完成2026-07-20含 S0b 方向化修正与一轮 strict review 修复)

用户指令:核心要务是分析为什么部分 case 下 Frontier work、部分不 work 的 system 根因;本 card 是该诊断 campaign 的第一个 slice仅使用 frozen artifacts零 GPU 成本。人工 review 由用户的直接指令("只有做好这个分析我们才能推进下一步")满足。

Claim 与决策

  • Parent claim ongoing.md H2——误差机制是 action-conditioned residual本实验把它细化为"分裂从哪来"。
  • 现象(已冻结): 同一 best-effort Frontier 栈上Q30/Q235 的 Trace-PD 与多数 PO 面 selection 近优,而 Fixed-PD 面 1458% regret失败 objective 随负载档切换Q30 低压 TPOT/E2E 全反、高压 TTFT 5658%A1 collective profile 修复了 Q235 Trace-PO p90 21.2%→0.3% 但对 Fixed-PD 33% 完全无效(本 card frozen-inputs/q235-ablation-a1
  • Competing hypotheses
    • H-SCALE 分裂完全由「config-differential residual vs 真机 decision margin」的关系解释good case 的 sim/real 比值跨 config 近似均匀乘性偏移argmin 不变bad case 的比值跨 config 分散且超过 margin。workload shape 本身不需要出现在解释里。
    • H-THRESH 绝对 service-time 高估近似均匀但与离散机制MNS admission cap、MoE token-bucket、graph bucket交互后被转换为 config-differential 误差fixed uniform workload 把所有请求同步到同一 state 轨迹,使阈值交叉对整个 cell 相干生效trace 的长度/到达异质性把阈值效应摊平。
    • H-STATE 失败由 simulator 闭环 batch state 分布漂移主导Q235sim decode batch 13.5 vs real 3.9 + B4→B5 profile cliff 正反馈);即使打破 workload 同步性,闭环漂移仍可翻转排序。
    • 三者关系H-SCALE 是现象层必要条件H-THRESH/H-STATE 是 differential residual 的两种产生机制,可共存但可判别(见事前预测)。
  • 事前预测:
    • H-SCALE 成立 ⟺ 对每个 case×objectivefailure 恰好发生在「top 邻域 log-ratio spread > log1p(真机相对 margin)」处(两侧同为 log-space 尺度),无反例。
    • H-THRESH 独有bad case 的 differential 误差集中于阈值语义分量first-scheduling wait、bucket 跳变段),且 sim-only 反事实(去阈值/加 jitter恢复排序——Q30 高压 TTFT 的 admission 反事实已支持一例。
    • H-STATE 独有:差异化误差在去掉阈值分量后仍在 execution 项内Q235 Fixed-PD 的 own-composition 20.07 vs exact-state +10.90 已支持一例)。
  • 判定规则: S0 只裁决 H-SCALE 与「分量定位」queue vs executionH-THRESH/H-STATE 的干预判别属 S1+sim-only 反事实)与 GPU 实验(需另行 review。若 H-SCALE 出现反例good case 有 spread>margin 仍选对,或 bad case spread<margin必须原样报告不得平滑。

Setup

  • 输入(全部 frozenruns/frontier-split-rootcause-v0/frozen-inputs/ q30-trace-pdgraph-piecewise comparison、q30-fixed-hifixed-pd/fixed-po 高压面、q30-expansion-lo低压 fixed-pd/fixed-po/trace-po、q235-fourcase-a0、q235-ablation-a1+provenance、q235-state-diag、q30-admission-diag。来源 cpfs 路径与 SHA 见各目录内 manifest/launch 记录。
  • 计算(每 case×objective per-config 比值 r_c=sim_c/real_cconfig-uniform scale=geomean(r_c)differential residual=log-ratio spread全 surface 与真机 top-3 邻域各一);真机 relative marginbest 与 2nd-best、best 与 sim-winner 的真机值差failure flag=regret>5%H-SCALE 检验=failure ⟺ 邻域 spread>log1p(margin)review 修正:初版直接以 ln 差比较普通 relative margin尺度不一致修正后 70 行 verdict 不变)。
  • 分量定位: q30-admission-diag 提供 TTFT=first-scheduling wait+prefill execution 分解q235-state-diag 提供 own-composition vs exact-state contrast把这些已知分量证据合并进统一表。
  • 交叉核对: 重算的 regret 必须与各 frozen comparison.md 表一致(抽查 58.0%、33.0%、0.0%A0 vs A1 的 Q235 对比必须复现 trace-po p90 21.2%→0.3%、fixed-pd 四项不变。

预期产物与 review

  • runs/frontier-split-rootcause-v0/analyze_split_decomposition.py只读 frozen-inputs确定性输出
  • runs/frontier-split-rootcause-v0/results/decomposition.{json,md}:统一表,每行 case×objective列出 winner、regret、scale、spread全/邻域、margin、H-SCALE verdict、已知分量归因
  • runs/frontier-split-rootcause-v0/results/margin-vs-residual.pngx=真机 marginy=邻域 differential residual点色=selection 对错H-SCALE 成立则对错点被对角线分离
  • 人工验收:编排者亲自重跑脚本、抽查交叉核对数字、亲自查看渲染图

复现信息

  • Code AITuner branch feature/sim自 HEAD 18c0b25worker/reviewer job-id 见下方「Review 与 provenance 补记」;脚本与产物随本 card 同一 commit 入库(含 frozen-inputs 本地拷贝)。
  • Environment 本地 workstationCPU-onlypython3+matplotlib不访问远端。
  • 已知 deviation frozen-inputs 是 cpfs 原件的本地拷贝scp2026-07-20q30-expansion-lo 的低压 Fixed-PD 面已被高压面取代为 primary本分析将两档并列为独立观测不混合。

结果

  • 观察事实:
    • 70 行14 个 case surface全部算出无数据缺口四组硬性交叉核对通过连续运行产物 SHA 一致。
    • H-SCALE 判为必要非充分23 个 material failureregret>5%全部满足「top-3 邻域 log spread > log1p(margin)」,无一例失败发生在 residual 小于 margin 处;但另有 40/70 行同样满足该条件却均非 material failure其中仅 16 行 exact winner match其余 24 行是小 regret 的 winner 错位——14 个 MNS 精确 tie 与 10 个 strict reversal——无方向 spread 不携带决策信息。
    • S0b 方向化后的机制普查23 个 material failure 的 winner-deciding pair 分布为 tp-axis 11、mixed 10、mns-axis 2Q235 A0/A1 Fixed-PD 的 8 个 TPOT/E2E failure 全为 tp-axisQ30 Fixed-PD 高低压为 tp/mixed仅有的 2 个 mns-axis failure 是 Q235 A0/A1 Trace-PD E2E p90regret 6.2%,勉强越过 5% 门槛。trace 面严格反序中 tp-axis 为 0q30 trace-pd 三轴全 0
    • A1 对照的轴分解serving-matched collective profile 把 Q235 两个 PO 面的 tp-axis 反序从 4/4 清零trace-po p90 regret 21.2%→0.3%),但 Fixed-PD 仅 5→4、四项 regret 一位小数不动——prefill 路径的 TP-differential 误差源=collective profile可修decode 耦合的 TP-differential 误差另有来源。
    • MNS 不敏感缺陷14 个 winner-label mismatch 是 simulator 逐位相等的 tie全部 mns-axis如 q30 fixed-po 的 MNS16↔32、q235 fixed-pd 的 MNS64↔128tie 计入后 MNS 边界误差 31 与 TP 严格反序 32 相当,但 MNS 侧 regret 小。
    • 成功的鲁棒性23 个 exact-winner success 中 17 个 margin-robustmargin≥1%6 个 fragile含 q30 trace-pd E2E p90 的 0.1% margin 与 q235 A1 fixed-po 四项)。
    • 面级 scale 对照prefill-only 面 geomean scale 0.961.37×(绝对预测基本准确),含 decode 的面 4.3130×——绝对误差灾难集中于 decode。
  • 异常: 无数据异常。strict reviewFAIL3 Major/1 Minor指出 H-SCALE 尺度混用log spread vs relative margin、tie 轴普查缺失、card 状态过期、Q235 一致性表述过强;全部修复,修复后 70 行 verdict 逐行不变。
  • 含义: 分裂的现象层解释是「margin 保护 + config-differential 误差」。机制层上21/23 个 material failure 由 TP/mixed pair 决定,且所有大 regret≥13%failure 都发生在含 decode 的面上:其中 Q235 Fixed-PD 有 state-drift 直接证据、Q30 高压 TTFT 有 admission 反事实证据,而 Q30 低压 TPOT/E2E 反转的机制尚未诊断S1 目标。「decode 耦合的 TP-differential 误差是主要载体」是当前最强归纳,不是对全部 failure 的已证机制归因2 个 mns-axis 边缘 failure6.2%在该归纳之外。trace 面成功伴随「TP 反序为零 + TP margin 宽」但「误差小」与「margin 宽」谁是主因仍未判——这正是 H-THRESH vs H-STATE 的判别缺口。轴标签与机制不一一对应Q30 admission 是 MNS 阈值机制但 deciding pair 为 tp/mixed因 TP 改变到达压力)。
  • Claim update H2action-conditioned residualsupported 且被细化residual 的决策相关分量集中在 TP 轴、由 decode 状态耦合产生H-SCALE 降级为必要条件H-THRESH/H-STATE 保持 competing待 S1 判别。
  • 下一步: S1sim-only 反事实Q30 低压 Fixed-PD TPOT 反转的分量定位——这是唯一无机制解释的 material failurefixed workload jitter 判别 H-THRESH vs H-STATEGPU 判别实验(加压 Trace-PD、jittered Fixed-PD 真机面dash14另行出 card 供 review。

Review 与 provenance 补记

  • S0 workercodex task-mrsn1s9c-z6ha0wS0btask-mrsnjzn6-k18x4nresumestrict reviewerfresh 只读):task-mrsocmlb-386btcverdict FAIL修复轮task-mrsop06n-pwxo0bfresh writable。编排者独立验收脚本重跑、SHA 比对、两图目视检查。
  • 产物 SHA修复后decomposition.json 81ea56b2…、decomposition.md 4d19af54…、margin-vs-residual.png df2110c4…、decision-pair-axis.png 2e787301…