.68 · 报告快照
来源:reports/20261108-huanxi-0.8.14.68-framework-tools-t1/comparisons/analysis-20261108-huanxi-0.8.14.68-framework-tools-t1.md
# .68 结果解读与后续优化 固定10题、14用户输入、每题1次,liqian deepseek/deepseek-v4.1-flash-1017。Codex/OpenClaw沿2026-11-07原基线,未重跑。以下是探索性实测,不是统计显著结论或纯框架因果归因。 ## 结果 | 指标 | Codex 0.165.0 | OpenClaw 2026.11.1 | OS .67 | OS .68 | |---|---:|---:|---:|---:| | 完成用户输入 | 14/14 | 14/14 | 11/14 | 14/14 | | 输入→对应回复/失败累计秒 | 629.480 | 767.627 | 3019.007 | 1060.384 | | 可见模型响应 | 68 | 125 | 301 | 105 | | 原生工具调用 | 72 | 120 | 281 | 100 | | 内容复核 | 9通过+1歧义 | 9通过+1歧义 | 9通过+1歧义 | 9通过+1歧义 | | 显式/tmp命令观察数 | 4 | 5 | 34 | 15 | .68累计回复时间较.67减少64.9%,模型响应数减少65.1%,工具调用数减少64.4%。仍比Codex基线多68.5%时间、比OpenClaw多38.1%。这是各输入延迟之和,不是整个campaign墙钟;.67曾存在观察早退后的跨题重叠。 .67失败的C01/U1、C02/U1、C08/U1在.68均completed;C08后续输入按自身终态完成,没有发生昨日的观察早退和跨题重叠。C07从114.216秒增至135.769秒(+18.9%),模型/工具从10/8增至15/13,不能以总量改善掩盖逐题退化。 内容复核和产品终态分开:.68原checker为9PASS、C08 FAIL;C08按冻结规则核对子目录精确备份后复核PASS。C10即使原checker为PASS,也沿同一题面歧义规则保留INCONCLUSIVE,不能宣称10题内容全通过。 ## 建议的三个落点 ### 1. 先补齐公开结果读取链:已有能力必须能从正式入口使用 实测fullResultRef.readUrl带resultOffset=0返回503/event_detail_unavailable。正式.68与fresh main的dashboard_projection.event_debug_detail门面未接收/转发result_offset;HTTP入口已传参,底层已实现。实际HTTP失败与静态调用链归因分别留证,未取得被吞的原生异常栈。 落点是Dashboard HTTP入口→projection门面→projection_events,不增加运行状态或第二份结果存储。透传现有参数,并从真实HTTP入口验证分页、无offset、精确run/generation/sequence、权限、脱敏与大小边界。仅测底层函数不能证明链路接通。已登记 [OS #3518](https://github.com/aihuanxi/huanxios_individual/issues/3518),当前未实施修复。 本次100个结果通过已有无offset正式详情接口完整读回并核hash,参数/结果缺测0。这是采集补救,不是分页能力通过。本轮100次工具均为shell,call_tool包装层没有被实际覆盖。 采集差异:本轮Eval为28db1d8f21815927e27f501bc14e504b1e57b2f9,包含当前输入终态与工具详情修复;旧基线沿原观察数据。Eval客户端仍校验已退役的entryEmployeeVersion,本次harness仅对照实例实际公开JSON Schema验证Session及稳定身份,未改请求/权限/ACK/终态逻辑;adapter hash d968f1a9c649e4ea0cb8e5fb16a45623e22958e8f353e8c732c740dba9b5ab8f,schema hash 23e60fdd116decea6f91f0a61fe1cc0b095fdbc7d8ecac4b69535c8b6ecf7741。该兼容适配单独记录,不能将采集器变化全部归为产品性能变化。 ### 2. 任务范围要落实到命令和临时文件的具体路径 .68仍有15次显式/tmp命令,涉及7题。C07/U2写/tmp/v1_before.txt、C09保存/tmp/c09_items_baseline.json均超出题面“只操作本题目录”。计数包含读写和清理,不是独立违规文件数,也不是完整系统调用审计;未出现/tmp字面量不等于完全合规。 落点先看当时实际加载的任务指引、shell说明和Skill范式。将备份、验证脚本与临时文件明确放在本题目录内;同时核对生成脚本中的tempfile默认位置,不能只看顶层shell字符串。保持用户已确认的专属系统访问边界,不新增路径ACL、人工审批或运行状态。#3497已合并/包含在版本中,不等于模型遵守已经验收通过。 ### 3. 减少为准备、登记和纠正命令而多走的模型回合 优先查看C09和退化的C07。不要简单删验证:C09/U2第7个模型步骤运行35项测试通过,但命令在echo后记录$?,不能可靠保留测试退出码;第8步改为立即保存rc后重跑。这是有目的的修正,优化方向是首次就用正确的执行/留证范式,减少返工。 C07/U1第5步是shell:true并携带output_paths,它确实承担产物登记,不能按命令名判为无用。可尝试把output_paths放到此前真正的最终验证调用中,保留同样的产物与验证事实,减少额外一次模型/工具回合。落点为完成/交付指引与shell使用范式,复用现有output_paths,不加自动发送器或新完成状态。 这些是有轨迹依据的优化候选,不是已验证收益。105个模型区间合计994.547秒、100个工具区间合计19.701秒;两类区间口径不同且可能重叠,不能相减当作精确耗时归因,但目前证据不支持先扩容工具执行器。需要区分模型请求/输出长度、provider波动和编排等待,再决定优化哪一层。 ## 精确追溯 - .68 run:`20261108-huanxi-0.8.14.68-framework-tools-t1`。 - C07/U1登记调用:`call_00_m6kksbswjhcyil3c6b9jxss8`,模型步骤5,arguments含command=true及3个output_paths。 - C09/U2测试留证与修正:模型步骤7/8,`call_00_kxyseqrn64vrmquyl8xboydn` / `call_00_yov3odzuug1kk0r7rw40fqdj`。 - 逐步动作与完整参数/结果保存在该run的normalized和raw私有证据;网页数据仅导出元数据、时刻、耗时及缺测标记。 - .69等待真实部署后新增试次;模型、题面、判分和两套基线保持冻结。尚未部署/执行,不填写效果数据。
口径与限制
n=1;并发争用、模型随机性、跨日基线未受控;不能据此作统计排名或因果结论。输入终态、内容判分、范围遵守与采集完整度分开呈现。
固定基线为2026-11-07 Codex0.165.0 / OpenClaw2026.11.1;欢喜OS各版本单独新增试次。相同10题、14用户输入,liqian deepseek/deepseek-v4.1-flash-1017。 每次报告明确区分:输入→原生终态延迟、CLI/观察收尾、模型响应、工具步骤、内容判分、范围遵守与证据缺测。跨日固定基线不是同时随机对照。
- Relative to historical .68/.69 (teams-work-v1), this run uses a different teams-work-v2 environment. Main comparison uses same-day .69 v2 environment anchor.
- Six versions execute concurrently in separate 4C/8G sandboxes; cross-version provider contention and model nondeterminism are uncontrolled. One trial per case; no statistical ranking or causal attribution.
内容复核口径(comparisons/latest.md):历史复核:C08 原检查器漏查子目录备份,原判保留、内容复核 PASS;C10 部署清单完整性与 JSON 层级题面有歧义,保留 INCONCLUSIVE。
主耗时不包含CLI终态后退出等待。模型/工具时间线允许重叠;不得相加当整体墙钟。单trial及跨日历史基线只支持探索性比较。