.69 · 报告快照
来源:reports/20261108-huanxi-0.8.14.69-framework-tools-t1/comparisons/latest.md
# 框架版本效果对比 生成于 2026-11-08T09:40:10.265814+00:00;只读已完成试次,计划不计作结果。 | 产品/版本 | 日期 | 用户turn完成/总数 | 内容复核 | 回复终态合计/秒 | 模型响应 | 工具调用 | 参数/结果完全缺失 | |---|---|---:|---|---:|---:|---:|---:| | codex 0.165.0 | 2026-11-07 | 14/14 | PASS=9, INCONCLUSIVE=1 | 629.48 | 68 | 72 | 0/0 | | openclaw 2026.11.1 | 2026-11-07 | 14/14 | PASS=9, INCONCLUSIVE=1 | 767.63 | 125 | 120 | 0/0 | | huanxi 0.8.14.67 | 2026-11-07 | 11/14 | PASS=9, INCONCLUSIVE=1 | 3019.01 | 301 | 281 | 23/23 | | huanxi 0.8.14.68 | 2026-11-08 | 14/14 | PASS=9, INCONCLUSIVE=1 | 1060.38 | 105 | 100 | 0/0 | | huanxi 0.8.14.69 | 2026-11-08 | 14/14 | PASS=8, FAIL=1, INCONCLUSIVE=1 | 927.92 | 97 | 85 | 0/0 | ## 工具正文覆盖 参数非空不等于全文完整;partial表示公开证据仅有部分视图,不能据此确定实际截断。unmarked表示旧采集未提供该标记,不能推断完整。原生分类与逐调用标记均保留。 | 产品/版本 | 参数availability | 结果availability | |---|---|---| | codex 0.165.0 | unmarked=72 | unmarked=72 | | openclaw 2026.11.1 | unmarked=120 | unmarked=120 | | huanxi 0.8.14.67 | available=258, unavailable=23 | available=258, unavailable=23 | | huanxi 0.8.14.68 | available=93, partial=7 | available=100 | | huanxi 0.8.14.69 | available=77, partial=8 | available=85 | ## 准备、执行与收尾阶段 阶段表单列操作时间;正式试次阶段与用户回复计时重叠,不额外累加。缺测不补零。阶段PASS表示该操作完成,不代表所有题目内容通过。 | 产品/版本 | 阶段 | 秒 | 状态 | |---|---|---:|---| | codex 0.165.0 | 原归档未提供规范化阶段计时 | 缺测 | 未补测 | | openclaw 2026.11.1 | 原归档未提供规范化阶段计时 | 缺测 | 未补测 | | huanxi 0.8.14.67 | 原归档未提供规范化阶段计时 | 缺测 | 未补测 | | huanxi 0.8.14.68 | sandbox_creation | 1.06 | PASS | | huanxi 0.8.14.68 | python_and_release_download_integrity | 10.46 | PASS | | huanxi 0.8.14.68 | base_dependencies_installation | 24.00 | PASS | | huanxi 0.8.14.68 | eval_source_download_hash_check_and_dependencies | 91.29 | PASS | | huanxi 0.8.14.68 | official_product_prepare_install_configure_fixture | 52.54 | PASS | | huanxi 0.8.14.68 | model_configuration | 缺测 | PASS | | huanxi 0.8.14.68 | case_material_seeding | 缺测 | PASS | | huanxi 0.8.14.68 | health_version_models_schema_tools_preflight | 2.92 | PASS | | huanxi 0.8.14.68 | serial_product_trial_and_per_case_observation | 1100.03 | PASS | | huanxi 0.8.14.68 | native_result_readback | 0.08 | FAIL_CAPTURE | | huanxi 0.8.14.68 | native_result_readback_v2 | 1.73 | PASS | | huanxi 0.8.14.68 | original_artifact_grader | 0.14 | PASS | | huanxi 0.8.14.68 | archive_pack_and_credential_scan | 4.17 | PASS | | huanxi 0.8.14.68 | archive_transfer_and_local_hash_readback | 缺测 | PASS | | huanxi 0.8.14.68 | stop_owned_services | 2.60 | PASS | | huanxi 0.8.14.68 | sandbox_delete | 2.20 | PASS | | huanxi 0.8.14.68 | sandbox_independent_absence_verification | 0.50 | PASS | | huanxi 0.8.14.69 | sandbox_creation | 0.92 | PASS | | huanxi 0.8.14.69 | python_and_release_download_integrity | 24.23 | PASS | | huanxi 0.8.14.69 | base_dependencies_installation | 79.00 | PASS | | huanxi 0.8.14.69 | eval_source_download_hash_check_and_dependencies | 170.01 | PASS | | huanxi 0.8.14.69 | operator_signed_wheel_selector_preflight_attempt | 0.33 | PREPARATION_ERROR_CORRECTED | | huanxi 0.8.14.69 | official_product_prepare_install_configure_fixture | 52.90 | PASS | | huanxi 0.8.14.69 | prepare | 2.81 | PASS | | huanxi 0.8.14.69 | install | 44.96 | PASS | | huanxi 0.8.14.69 | model_configuration | 0.00 | PASS | | huanxi 0.8.14.69 | case_material_seeding | 0.00 | PASS | | huanxi 0.8.14.69 | start | 4.54 | PASS | | huanxi 0.8.14.69 | health_version_models_schema_tools_preflight | 2.42 | PASS | | huanxi 0.8.14.69 | serial_product_trial_and_per_case_observation | 970.60 | PASS | | huanxi 0.8.14.69 | native_result_readback | 0.09 | FAIL_CAPTURE | | huanxi 0.8.14.69 | native_result_readback_v2 | 1.33 | PASS | | huanxi 0.8.14.69 | original_artifact_grader | 0.11 | PASS | | huanxi 0.8.14.69 | archive_pack_and_credential_scan | 3.10 | PASS | | huanxi 0.8.14.69 | archive_transfer_and_local_hash_readback | 缺测 | PASS | | huanxi 0.8.14.69 | slow_logical_model_call_public_detail_readback | 3.79 | PASS | | huanxi 0.8.14.69 | stop_owned_services | 3.01 | PASS | | huanxi 0.8.14.69 | sandbox_delete | 1.19 | PASS | | huanxi 0.8.14.69 | sandbox_independent_absence_verification | 0.50 | PASS | ## 任务范围与模型观察 范围计数为可见命令中明确出现 /tmp 的次数,独立于内容 PASS;不是完整系统调用审计。 | 产品/版本 | /tmp 命令观察数 | 涉及题目 | 有范围观察的题数 | 模型ID缺测/不符 | |---|---:|---|---:|---:| | codex 0.165.0 | 4 | C04, C10 | 10 | 0/0 | | openclaw 2026.11.1 | 5 | C04, C09 | 10 | 0/0 | | huanxi 0.8.14.67 | 34 | C01, C03, C04, C06, C07, C09, C10 | 10 | 0/0 | | huanxi 0.8.14.68 | 15 | C01, C02, C03, C04, C07, C09, C10 | 10 | 0/0 | | huanxi 0.8.14.69 | 12 | C02, C03, C08, C09 | 10 | 0/0 | ## 每题耗时与步骤 每格:用户输入→回复/失败终态秒数之和;模型响应数/工具调用数;题级内容复核。 | Case | codex 0.165.0 | openclaw 2026.11.1 | huanxi 0.8.14.67 | huanxi 0.8.14.68 | huanxi 0.8.14.69 | |---|---:|---:|---:|---:|---:| | C01 发票去重与对账 | 30.61;4/3;PASS | 36.86;6/6;PASS | 173.55;18/14;PASS | 32.34;4/3;PASS | 57.88;7/6;PASS | | C02 日志关联与事故时间线 | 46.81;4/8;PASS | 51.20;8/9;PASS | 306.24;35/34;PASS | 76.11;8/8;PASS | 72.57;10/9;PASS | | C03 多文件政策优先级 | 29.13;5/6;PASS | 49.03;9/10;PASS | 134.09;17/18;PASS | 50.55;7/7;PASS | 38.49;6/5;PASS | | C04 时区与稳定排序 | 52.27;8/9;PASS | 78.99;11/11;PASS | 384.39;38/34;PASS | 100.43;8/9;PASS | 39.75;5/4;PASS | | C05 小模块修复与回归 | 92.96;7/10;PASS | 134.43;21/22;PASS | 145.86;12/11;PASS | 123.86;12/11;PASS | 127.05;9/8;PASS | | C06 依赖图与关键路径 | 23.34;3/2;PASS | 55.14;9/8;PASS | 478.43;41/37;PASS | 81.20;8/7;PASS | 113.45;9/8;FAIL | | C07 采购方案追加预算约束 | 73.86;6/5;PASS | 111.12;17/16;PASS | 114.22;10/8;PASS | 135.77;15/13;PASS | 85.21;8/6;PASS | | C08 销售汇总与增量更正 | 78.90;9/11;PASS | 52.84;10/8;PASS | 197.36;21/16;PASS | 96.76;10/8;PASS | 77.06;12/11;PASS | | C09 命令行工具连续迭代 | 153.57;15/13;PASS | 91.57;15/13;PASS | 510.96;50/48;PASS | 187.25;17/18;PASS | 217.11;18/16;PASS | | C10 发布判断与新证据修正 | 48.03;7/5;INCONCLUSIVE | 106.46;19/17;INCONCLUSIVE | 573.91;59/61;INCONCLUSIVE | 176.13;16/16;INCONCLUSIVE | 99.34;13/12;INCONCLUSIVE | ## OS版本变化(相邻已完成试次) | 旧版→新版 | 回复合计差/秒 | 变化比例 | 完成turn数变化 | 模型/工具次数变化 | |---|---:|---:|---:|---:| | 0.8.14.67 → 0.8.14.68 | -1958.62 | -64.9% | +3 | -196/-181 | | 0.8.14.68 → 0.8.14.69 | -132.46 | -12.5% | +0 | -8/-15 | ### 最新两次OS逐输入变化 负值表示本次观察更少/更快;终态变化必须一起看,失败更快不能当作性能提升。 | 输入 | 原终态→现终态 | 题级内容原→现 | 原耗时→现耗时/秒 | 耗时差/秒 | 模型/工具次数差 | |---|---|---|---:|---:|---:| | C01/U1 | completed → completed | PASS → PASS | 32.34 → 57.88 | 25.55 | 3/3 | | C02/U1 | completed → completed | PASS → PASS | 76.11 → 72.57 | -3.54 | 2/1 | | C03/U1 | completed → completed | PASS → PASS | 50.55 → 38.49 | -12.05 | -1/-2 | | C04/U1 | completed → completed | PASS → PASS | 100.43 → 39.75 | -60.68 | -3/-5 | | C05/U1 | completed → completed | PASS → PASS | 123.86 → 127.05 | 3.18 | -3/-3 | | C06/U1 | completed → completed | PASS → FAIL | 81.20 → 113.45 | 32.26 | 1/1 | | C07/U1 | completed → completed | PASS → PASS | 50.80 → 41.13 | -9.68 | -2/-2 | | C07/U2 | completed → completed | PASS → PASS | 84.97 → 44.08 | -40.88 | -5/-5 | | C08/U1 | completed → completed | PASS → PASS | 44.42 → 33.38 | -11.04 | 0/0 | | C08/U2 | completed → completed | PASS → PASS | 52.34 → 43.68 | -8.66 | 2/3 | | C09/U1 | completed → completed | PASS → PASS | 68.61 → 44.30 | -24.31 | 0/0 | | C09/U2 | completed → completed | PASS → PASS | 118.64 → 172.81 | 54.18 | 1/-2 | | C10/U1 | completed → completed | INCONCLUSIVE → INCONCLUSIVE | 70.76 → 42.20 | -28.55 | -2/-2 | | C10/U2 | completed → completed | INCONCLUSIVE → INCONCLUSIVE | 105.37 → 57.14 | -48.23 | -1/-2 | ## 下一步优化定位 以下按最新已完成OS试次与同题最快固定基线的延迟差排序,仅用于选择需要查看的轨迹,不证明原因。内容FAIL需独立优先处理,不能以更快抵消。 | Case | 内容 | OS秒 | 固定基线最快秒 | 差值秒 | OS模型/工具 | |---|---|---:|---:|---:|---:| | C09 命令行工具连续迭代 | PASS | 217.11 | 91.57 | +125.55 | 18/16 | | C06 依赖图与关键路径 | FAIL | 113.45 | 23.34 | +90.12 | 9/8 | | C05 小模块修复与回归 | PASS | 127.05 | 92.96 | +34.09 | 9/8 | | C01 发票去重与对账 | PASS | 57.88 | 30.61 | +27.28 | 7/6 | | C02 日志关联与事故时间线 | PASS | 72.57 | 46.81 | +25.76 | 10/9 | 判分歧义题不进入优化排名;各题原始延迟仍全部保留。优化分析应沿这些case的user-turns/model-steps/tool-steps查看:延迟来自更多轮次、单轮更慢、工具等待还是观察缺口;由原始日志支持后才能列为已证实原因。 ## 证据与可比边界 - codex 0.165.0:run `20261107-codex-0.165.0-t1`;逐工具缺测与截断见工具CSV,完整采集说明见私有manifest。 - openclaw 2026.11.1:run `20261107-openclaw-2026.11.1-t1`;逐工具缺测与截断见工具CSV,完整采集说明见私有manifest。 - huanxi 0.8.14.67:run `20261107-huanxi-0.8.14.67-t1`;逐工具缺测与截断见工具CSV,完整采集说明见私有manifest。 - huanxi 0.8.14.68:run `20261108-huanxi-0.8.14.68-framework-tools-t1`;逐工具缺测与截断见工具CSV,完整采集说明见私有manifest。 - huanxi 0.8.14.69:run `20261108-huanxi-0.8.14.69-framework-tools-t1`;逐工具缺测与截断见工具CSV,完整采集说明见私有manifest。 固定基线:`20261107-codex-0.165.0-t1`, `20261107-openclaw-2026.11.1-t1` 历史复核:C08 原检查器漏查子目录备份,原判保留、内容复核 PASS;C10 部署清单完整性与 JSON 层级题面有歧义,保留 INCONCLUSIVE。 历史采集:Codex CLI 终态后等待累计约147.30秒,另列;OpenClaw C01 CLI退出时间缺测。OS .67 C08/U2由只读恢复拿到46.885秒真实回复延迟,与C09/U1重叠约45.136秒。输入延迟合计不是campaign墙钟。 主耗时不包含CLI终态后退出等待。模型/工具时间线允许重叠;不得相加当整体墙钟。单trial及跨日历史基线只支持探索性比较。 ## 版本计划状态 - 0.8.14.68: complete - 0.8.14.69: complete [本版结果解读与优化依据](analysis-20261108-huanxi-0.8.14.69-framework-tools-t1.md) 数据:[网页JSON](../exports/web-data.json)、[用户turn CSV](../exports/user-turns.csv)、[模型步骤CSV](../exports/model-steps.csv)、[工具步骤CSV](../exports/tool-steps.csv)。
口径与限制
n=1;并发争用、模型随机性、跨日基线未受控;不能据此作统计排名或因果结论。输入终态、内容判分、范围遵守与采集完整度分开呈现。
固定基线为2026-11-07 Codex0.165.0 / OpenClaw2026.11.1;欢喜OS各版本单独新增试次。相同10题、14用户输入,liqian deepseek/deepseek-v4.1-flash-1017。 每次报告明确区分:输入→原生终态延迟、CLI/观察收尾、模型响应、工具步骤、内容判分、范围遵守与证据缺测。跨日固定基线不是同时随机对照。
- Relative to historical .68/.69 (teams-work-v1), this run uses a different teams-work-v2 environment. Main comparison uses same-day .69 v2 environment anchor.
- Six versions execute concurrently in separate 4C/8G sandboxes; cross-version provider contention and model nondeterminism are uncontrolled. One trial per case; no statistical ranking or causal attribution.
内容复核口径(comparisons/latest.md):历史复核:C08 原检查器漏查子目录备份,原判保留、内容复核 PASS;C10 部署清单完整性与 JSON 层级题面有歧义,保留 INCONCLUSIVE。
主耗时不包含CLI终态后退出等待。模型/工具时间线允许重叠;不得相加当整体墙钟。单trial及跨日历史基线只支持探索性比较。