Record code-trace canary fidelity gates

This commit is contained in:
2026-07-24 02:42:29 +08:00
parent e1f2557a0c
commit e0811e95b4
8 changed files with 1526 additions and 26 deletions

View File

@@ -1,8 +1,8 @@
# EXP-CODE-TRACE从 chat 1h trace 扩展到 code 与 phase-separated replay
> **状态RUNNINGPhase A code P+D。** A0 数据/profile 与 A1 TP4
> max-length smoke 已完成;A2 paired canary 正在运行;A3 sim calibration
> 已冻结 topology-specific rho。只使用 `dash1`--`dash4`禁止使用 `dash0`。
> **状态RUNNINGPhase A code P+D。** A0 数据/profile、A1
> max-length smokeA2 paired canary A3 sim calibration 已完成;
> A4 第一批 61min real jobs 正在 `dash1`--`dash4` 运行。禁止使用 `dash0`。
## 目标与成功定义
@@ -17,10 +17,10 @@
| 项目 | 当前结论 | 下一 gate |
|---|---|---|
| code P+D 数据 | 61min development window、long-context profile-v6、四个 paired full 输入已冻结 | paired canary real-vs-sim |
| TP4 负载 | low/mid/near-knee=`rho 0.0002/0.0008/0.0016`三点均亚临界 | canary 通过后启动 1h |
| TP2 负载 | low/mid/near-knee=`rho 0.0002/0.0004/0.0008``0.0016` 明确过载 | TP2 canary/KV gate |
| code prefill-only | `rho<=0.0032` 的 paired remap cache 已生成OSL 全为 1 | 独立 sim rho calibration |
| code P+D 数据 | 61min development window、long-context profile-v6、四个 paired full 输入已冻结 | 第一批 1h real 运行中 |
| TP4 负载 | low/mid/near-knee=`rho 0.0002/0.0008/0.0016`paired canary 的 TTFT/E2E、KV、batch 通过 | 三个 load 的 trial 1 运行中 |
| TP2 负载 | `rho 0.0004` canary 暴露 TTFT p90 `-32.1%` bad case | 只跑 `rho 0.0002` 1h diagnostic暂不铺满 |
| code prefill-only | TP2 已冻结 `rho 0.0004/0.0008/0.0016``0.0032` 过载TP4 到 `0.0032` 仍亚临界 | TP4 追加更高 rho 边界 |
| strict decode-only | vLLM 0.20.0 有 `DecodeBenchConnector`Frontier trace generator 尚不能注入 initial computed tokens | C0 contract canary未进入正式结果 |
## 三种 workload mode 的冻结定义
@@ -173,9 +173,10 @@ tail driver 分解共同决定,不能只用一个 drain 秒数。
若某 topology 的 near-knee 过载,像现有 chat TP2/ρ0.01 一样排除,不为凑齐矩阵强跑。
当前状态A0 完成A1 的 TP4 完成、TP2 由 paired canary 同时验证;
A2 运行中A3 完成A4 的 paired input 已物化但尚未在 canary gate
前启动。
当前状态A0A3 完成。A4 第一批为 TP4
`rho={0.0002,0.0008,0.0016}` trial 1以及 TP2 `rho=0.0002`
trial 1 diagnostic其余 TP2 cell 等该 diagnostic 验证 canary bad case
后再决定是否扩展。
### Phase Bchat/code prefill-only
@@ -308,3 +309,38 @@ mode-specific
FlashInfer JIT 的 apparatus cost。它发生在 readiness 前,不进入 TTFT
runner commit `d5bb974` 改为长上下文默认使用 host-local vLLM cache
并按 topology 复用 FlashInfer workspace。
- 第一轮 paired real canary 的 3 次旧 client 运行都只在同一个
`106709+197` 请求失败,根因是 `return_token_ids` 把 100k+ prompt
vector 放进单条 SSE event超过 aiohttp 默认 512KiB line limit。
commit `e1f2557` 把 exact client read buffer 提到 8MiB700KiB
单-event runtime 对照和随后 TP4×2、TP2×1 的 53/53 replay 均通过。
- TP4 canary 的 real-vs-sim prefix hit ratio =
`0.239908/0.239973`pure-decode batch max 都为 4
`share(b>1)=15.87%/15.69%`real 两 trialvs `16.35%`sim
TTFT mean/p50/p90/p95/p99 bias =
`-8.3/-4.1/-8.8/-13.1/-6.3%`E2E =
`+2.2/+6.1/+11.0/+1.4/-1.3%`。长 drain 的同一
`61976+21361` 请求 real=92.61/92.34s、sim=91.37s,不是 backlog。
- TP4 若把 OSL=4 请求纳入 TPOTmean/p99 bias 会被单个
`~213ms/token` 样本放大到 `-29.9%/-71.5%`OSL≥8 后
mean/p50/p90/p95/p99 bias =
`+8.7/+8.2/+0.6/+13.4/+3.7%`。因此 raw TPOT 仍保留,但正式报告必须
同时给 OSL threshold sensitivity不能把短输出的三段 inter-token
interval 当作稳定 decode service。
- TP4 canary 两 trial 的 real SLO pass rate 都是 `50/53=94.34%`
sim 为 `52/53=98.11%`,在 95% feasibility threshold 上发生翻转;
这由两个临界 TTFT 请求和上述 OSL=4 请求共同造成,作为明确 bad case
进入 1h 检验,不能被总体 latency gap 掩盖。
- TP2 canary 的 cache/batch/drain 仍对齐,但 TTFT p90 bias=`-32.1%`
E2E p90/p95=`-18.4%/-23.8%`。因此先只启动 low-rho 1h diagnostic
不直接铺满 TP2 六个正式 jobs。
- code prefill-only 已完成 10-cell Frontier calibration。TP2
`rho=0.0032` drain=1384.59s、waiting p50=751.01s,明确过载;
`0.0004/0.0008/0.0016` 冻结为 low/mid/near-knee。TP4 到
`rho=0.0032` 仍只有 9.09s drain暂称 highest-tested追加更高 rho
后才冻结 near-knee。compact table 在
`results/prefill-only-calibration-summary.json`
- 2026-07-23 18:37 UTC 启动 A4 wave 1dash1=`TP4/rho0.0002/t1`
dash3=`TP4/rho0.0008/t1`、dash4=`TP4/rho0.0016/t1`
dash2=`TP2/rho0.0002/t1 diagnostic`;四台启动前再次确认 8×H20
memory/utilization=0、无 compute process、uncorrected ECC=0。