|
5 | 5 |
|
6 | 6 | ## Cold-pickup checklist (orient в 2 минуты) |
7 | 7 |
|
| 8 | +**ВАЖНО при старте новой сессии — две unfinished housekeeping задачи от EOD-4:** |
| 9 | + |
| 10 | +```powershell |
| 11 | +cd D:/NL_SQL |
| 12 | +
|
| 13 | +# A. Проверь не висят ли python.exe от прошлой сессии (helallao curl-cffi waits, etc). |
| 14 | +Get-Process python -ErrorAction SilentlyContinue | |
| 15 | + Where-Object { (Get-Date) - $_.StartTime -gt (New-TimeSpan -Minutes 30) } | |
| 16 | + Format-Table Id,StartTime,CPU,WS |
| 17 | +# Если есть orphans >30мин: Stop-Process -Id <pid> -Force |
| 18 | +
|
| 19 | +# B. Закоммить EOD-4 rescue evidence (3 untracked JSON в eval/reports/2026-05-25/). |
| 20 | +git status --short |
| 21 | +# Expected: ?? eval/reports/2026-05-25/helallao-q518-{rescue-attempt,grok,gpt52}.json |
| 22 | +# M chroma_data/* (runtime drift, ignore) |
| 23 | +git add eval/reports/2026-05-25/ |
| 24 | +git commit -m "evidence: qid 518 rescue attempts closed (3 reasoning models, 0 alt_match) — gold returns 0 rows, v13 rescue bogus" |
| 25 | +git push origin main |
| 26 | +``` |
| 27 | + |
| 28 | +**Standard cold-pickup orientation:** |
| 29 | + |
8 | 30 | ```powershell |
9 | 31 | # 1. Что сейчас в репо? |
10 | 32 | cd D:/NL_SQL |
11 | | -git log --oneline -5 |
12 | | -# Expected top: v29 92.5% commit / v28 commit / 72b7a21 cookbook / 92c52f4 docs sync v27 / 99bae66 v27 |
| 33 | +git log --oneline -8 |
| 34 | +# Expected top: 85fe388 audit-fix qid 518 / fbb9e24 HF redeploy / b6aed93 GraceKelly entry drop / 40ac2a1 helallao sweep / c6e5394 test+style / c74b46c rescore-arcwise fix / b208af4 v29 Arcwise rescore |
13 | 35 |
|
14 | 36 | # 2. Где actual baseline merged report? |
15 | 37 | ls eval/reports/2026-05-24/v29-v28-plus-p3f-q1275-merged.json |
16 | 38 |
|
17 | | -# 3. Verify baseline ещё чистый (replay every stored pred under current runner) |
| 39 | +# 3. Verify baseline после audit-correction (replay every stored pred under current runner) |
18 | 40 | uv run python scripts/audit_rescore.py --report eval/reports/2026-05-24/v29-v28-plus-p3f-q1275-merged.json |
19 | | -# Expected: stored 186 / true 186 / 0 mismatches |
| 41 | +# Expected: stored 185 / true 185 / 0 mismatches |
20 | 42 |
|
21 | | -# 4. Verify все 8 P3.F gates ещё PASS |
| 43 | +# 4. Verify все 8 P3.F gates ещё PASS (acceptance harness независим от audit-fix) |
22 | 44 | uv run python scripts/p3f_acceptance.py --report eval/reports/2026-05-24/v29-v28-plus-p3f-q1275-merged.json --require-pass |
23 | 45 | # Expected: 8 PASS, exit 0 |
24 | 46 |
|
25 | 47 | # 5. Tests + lint + type |
26 | 48 | uv run pytest -q |
27 | 49 | uv run ruff check src tests scripts app |
28 | 50 | uv run mypy --strict src |
29 | | -# Expected: 328 pass / clean / clean |
| 51 | +# Expected: 333 pass (+3 TestSafeComparePred regression tests) / clean / clean |
30 | 52 | ``` |
31 | 53 |
|
32 | | -**Текущее состояние:** repo + Streamlit + README + UI captions + **live HF Space** = **v29 92.5%** (185/200) после 2026-05-25 EOD-3 CC-CX-KM audit |
33 | | -correction (qid 518 v13 false positive исправлен через `safe_compare_pred` short-circuit). |
34 | | -HF redeploy выполнен 2026-05-25 EOD-3; E2E grep на <https://liovina-nl-sql.hf.space> |
35 | | -подтвердил `92.5%` (EN) / `92,5%` (RU comma format). Screenshots `docs/ui-live-{en,ru}.png` обновлены. |
36 | | -Все surface (repo / UI captions / live URL) синхронизированы — gap нулевой. |
| 54 | +**Текущее состояние (HEAD `85fe388` pushed 2026-05-25 EOD-3, EOD-4 rescue evidence pending manual commit):** |
| 55 | +- **Repo + Streamlit + README + UI captions + live HF Space = v29 92.5%** (185/200) после CC-CX-KM /cxkm audit-correction (qid 518 v13 false positive исправлен через `safe_compare_pred` short-circuit). |
| 56 | +- HF redeploy: <https://liovina-nl-sql.hf.space>, E2E verified Playwright `92.5%` (EN) / `92,5%` (RU). |
| 57 | +- Все surface синхронизированы — gap нулевой. |
| 58 | + |
| 59 | +**Final triplet (final для $0 budget):** |
| 60 | + |
| 61 | +| Метрика | Значение | Δ над baseline | |
| 62 | +|---|---:|---:| |
| 63 | +| BIRD original | 92.5% (185/200) | +44.7pp над GPT-4 zero-shot | |
| 64 | +| Arcwise-Plat-SQL | 74.37% (148/199) | — | |
| 65 | +| Arcwise-Plat full | 68.34% (136/199) | — | |
| 66 | +| #1 paid SOTA AskData+GPT-4o | 81.95% | **+10.55pp** | |
| 67 | +| Human-expert (BIRD paper) | 92.96% | -0.46pp | |
| 68 | + |
| 69 | +Per-tier v29 (post-EOD-3 correction): simple 97.0% (65/67) / **moderate 90.9%** (90/99) / challenging 88.2% (30/34). |
| 70 | + |
| 71 | +**qid 518 rescue exhausted (EOD-4):** 3 reasoning models (claude-4.5-sonnet-thinking, grok-4.1-reasoning, gpt-5.2-thinking) через helallao на baseline=False — все alt_match=False. Strong signal: BIRD gold для qid 518 возвращает 0 строк (card_games "format with most banned + names" — annotation quirk), ни одна корректная SQL не пройдёт set-equality. **v13 "rescue" qid 518 был bogus с самого начала.** |
37 | 72 |
|
38 | 73 | ## Cookbook: как добавить ещё один P3.F rescue (повторяющийся pattern) |
39 | 74 |
|
@@ -99,29 +134,43 @@ dd20bb...r2.cloudflarestorage.com: no such host` после успешного m |
99 | 134 | fetch). Local heterogeneous CSC lever остаётся parked. |
100 | 135 |
|
101 | 136 | **Следующее (priority):** |
| 137 | + |
| 138 | +0. **EOD-4 housekeeping** (см. cold-pickup checklist выше): commit 3 untracked `eval/reports/2026-05-25/helallao-q518-*.json`; kill orphan python processes если есть. |
| 139 | + |
102 | 140 | 1. ~~**Paid OpenRouter top-up ($5+)** на v29 residue~~ — **CLOSED 2026-05-24 EOD-2.** |
103 | | - 3-model helallao reasoning sweep (claude-4.5-sonnet-thinking + gpt-5.2-thinking |
104 | | - + grok-4.1-reasoning) на 14 v29 residue qids дал **42 attempts, 0 rescues, |
105 | | - 0 regressions**. Helallao даёт те же модели за $0 через Pro подписку; paid OR |
106 | | - эквивалент бесполезен с теми же reasoning routes. Past 92.5% требует либо |
107 | | - другой архитектуры (custom JOIN-path linker, semantic equality check), либо |
108 | | - принять текущий ceiling. Артефакты в `eval/reports/2026-05-24/helallao-*-on-v29-residue.json`. |
| 141 | + 3-model helallao reasoning sweep на 14 v29 residue qids: 42 attempts, 0 rescues. |
| 142 | + ~~**Rescue qid 518 specifically через reasoning models**~~ — **CLOSED 2026-05-25 EOD-4.** |
| 143 | + 3 reasoning models (claude/grok/gpt-5.2 thinking variants) на qid 518: |
| 144 | + все alt_match=False. Gold возвращает 0 строк (BIRD-side annotation quirk). v13 |
| 145 | + "rescue" qid 518 был bogus от рождения. Past 92.5% требует либо другой scoring |
| 146 | + framework (partial-credit / semantic similarity), либо runner-level refactor |
| 147 | + (custom JOIN-path linker), либо paid OR с broader-context reasoning. |
| 148 | + |
109 | 149 | 2. **Местный heterogeneous CSC:** retry `qwen2.5-coder:7b-instruct` pull когда |
110 | 150 | R2 reachable. `qwen2.5-coder:7b` тэг то же; пробовать оба. **Note:** даже local |
111 | 151 | qwen2.5-coder вряд ли пробьёт ceiling, который не пробили claude/gpt-5.2/grok |
112 | 152 | reasoning — это структурная граница BIRD-quirks, не модельная. |
113 | | -3. **Не строить generic FK linker** (v22 lesson). |
114 | | -4. **Не пытаться чинить query-shape / BIRD-annotation-quirk / semantic-ambiguity |
| 153 | + |
| 154 | +3. **Migrate 9 voting scripts на `safe_compare_pred`** (audit_rescore + rescore_arcwise |
| 155 | + уже migrated в EOD-3). Backlog item — выполнять только если возобновляется |
| 156 | + voting активность (сейчас ceiling reached, voting parked). Список: archive_sweep, |
| 157 | + run_helallao_voting, run_sonnet_voting, run_groq_voting, run_openrouter_voting, |
| 158 | + run_critique_retry, run_selfcon_retry, run_wide_schema_retry, ensemble_vote. |
| 159 | + |
| 160 | +4. **Не строить generic FK linker** (v22 lesson). |
| 161 | + |
| 162 | +5. **Не пытаться чинить query-shape / BIRD-annotation-quirk / semantic-ambiguity |
115 | 163 | failures** (qids 25, 37, 125, 349, 484, 595, 694, 930, 1029, 1094, 1144, |
116 | 164 | 1247, 1254, 1168): hint'ы либо не помогают, либо требуют такой формулировки |
117 | | - которая регрессирует другие qids. **EOD-2 sweep подтвердил эмпирически:** ни |
118 | | - один из трёх reasoning models не вышел из same shape для всех 14. |
119 | | -5. **GraceKelly browser-orchestrator fix НЕ нужен для NL_SQL** — voting на |
| 165 | + которая регрессирует другие qids. **EOD-2 sweep + EOD-4 qid 518 rescue |
| 166 | + подтвердили эмпирически:** ни один frontier reasoning не выходит из same |
| 167 | + shape для residue. |
| 168 | + |
| 169 | +6. **GraceKelly browser-orchestrator fix НЕ нужен для NL_SQL** — voting на |
120 | 170 | Perplexity Pro идёт через helallao HTTPS-bridge (curl-cffi reverse-engineered, |
121 | 171 | bypassing browser). Cookies extracted один раз из D:/GraceKelly/chrome-profile |
122 | 172 | через `.tmp/extract_pplx_cookies.py`, дальше чистый API (cookies live до |
123 | | - 2026-06-16). Если протухнут — re-extract тем же скриптом, не трогать GraceKelly |
124 | | - browser path. |
| 173 | + 2026-06-16). Если протухнут — re-extract тем же скриптом. |
125 | 174 |
|
126 | 175 | **Ceiling сейчас — final для $0 budget без runner-level рефакторинга.** v29 = 92.5% / 200, в 0.04pp от human expert (BIRD paper 92.96%). Триплет 92.5% / 74.87% / 68.84% не сдвигается без новой архитектуры. Портфолио-narrative полный. |
127 | 176 |
|
|
0 commit comments