PREVIEW / INCOMPLETE

VeriHarness V0.4

v0.3.1 X 系列使用 claude-opus-4-8 与 TRAPI gpt-5.6-sol_2026-07-09、high effort 的阶段性复跑证据。

不可作为正式双模型结论。 GPT 缺失并非随机抽样:本页只对 66 个有效 cell 给出逐 cell 评分与描述性均值,不计算 GPT 条件效应、bootstrap CI 或 Claude↔GPT 优劣。正式结果将覆盖相同 URL。

冻结状态

snapshot sha256:f5d62628c414…
150 / 150Claude 完整、已评分
66 / 150GPT 严格有效、已评分
25GPT 原始重试耗尽
59GPT 尚未执行

8-case 条件描述

Claude 完整;GPT 仅可用 cell 描述
条件Claude Opus 4-8(完整)GPT-5.6-sol(阶段预览)
覆盖MacroPass@4平均时间覆盖描述均值Pass@4平均时间
C0V0无验证24/244.28421/246m 09s15/244.34415/1538m 47s
X1V0X1 本质版24/244.47623/2418m 40s6/244.2724/646m 59s
X2V0X2 确定性自测24/244.48124/2419m 01s11/244.52511/1147m 33s
X3X3 累积验证项24/244.51524/2420m 36s8/244.5307/844m 53s
X4X4 领域中性24/244.43124/2420m 41s11/244.49811/1141m 04s

Claude 正式 8-case 配对效应(vs C0V0)

条件平均 Δcase-bootstrap 95% CIWin / Tie / Loss估计量
X1V0X1 本质版0.192[0.080, 0.312]7 / 0 / 18 cases × paired 3-replicate means
X2V0X2 确定性自测0.198[0.061, 0.336]6 / 0 / 28 cases × paired 3-replicate means
X3X3 累积验证项0.231[0.093, 0.378]7 / 0 / 18 cases × paired 3-replicate means
X4X4 领域中性0.148[0.027, 0.286]6 / 1 / 18 cases × paired 3-replicate means

本表仅属于完整 Claude 矩阵;GPT Preview 不计算效应或置信区间。

逐 case 覆盖

case14/15 保留轨迹,但排除主统计
caseClaudeGPT PreviewGPT 缺失 cellViewer
case115/157/15C0V0/r3, X1V0/r1, X1V0/r3, X2V0/r1, X2V0/r2, X3/r2, X3/r3, X4/r1Claude 快览
case515/153/15C0V0/r1, X1V0/r1, X1V0/r2, X1V0/r3, X2V0/r1, X2V0/r2, X2V0/r3, X3/r1, X3/r2, X3/r3, X4/r2, X4/r3Claude 快览
case615/159/15C0V0/r1, C0V0/r2, X1V0/r2, X2V0/r2, X3/r3, X4/r3Claude 快览
case715/1511/15X1V0/r1, X1V0/r2, X1V0/r3, X4/r2Claude 快览
case815/154/15C0V0/r2, C0V0/r3, X1V0/r1, X1V0/r2, X1V0/r3, X2V0/r3, X3/r1, X3/r2, X3/r3, X4/r1, X4/r3Claude 快览
case915/157/15C0V0/r2, X1V0/r1, X2V0/r2, X2V0/r3, X3/r1, X3/r3, X4/r1, X4/r3Claude 快览
case1015/156/15C0V0/r3, X1V0/r1, X1V0/r3, X2V0/r1, X2V0/r3, X3/r2, X3/r3, X4/r2, X4/r3Claude 快览
case1215/154/15C0V0/r1, X1V0/r1, X1V0/r2, X1V0/r3, X2V0/r1, X2V0/r2, X3/r1, X3/r2, X3/r3, X4/r1, X4/r3Claude 快览
case14主统计排除15/1510/15C0V0/r1, C0V0/r3, X2V0/r2, X2V0/r3, X4/r2Claude 快览
case15主统计排除15/155/15C0V0/r1, X1V0/r1, X1V0/r2, X1V0/r3, X2V0/r2, X3/r1, X3/r3, X4/r1, X4/r2, X4/r3Claude 快览
case1Claude 15/15 · GPT 7/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplayRunReplay双模型 Comparescored
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplay未发布:无有效 canonical不可比较missing
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplayRunReplay双模型 Comparescored
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplay未发布:无有效 canonical不可比较missing
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplayRunReplay双模型 Comparescored
X3r1RunReplayRunReplay双模型 Comparescored
X3r2RunReplay未发布:无有效 canonical不可比较missing
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplay未发布:无有效 canonical不可比较missing
X4r2RunReplayRunReplay双模型 Comparescored
X4r3RunReplayRunReplay双模型 Comparescored
case5Claude 15/15 · GPT 3/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplay未发布:无有效 canonical不可比较missing
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplayRunReplay双模型 Comparescored
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplay未发布:无有效 canonical不可比较missing
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplay未发布:无有效 canonical不可比较missing
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplay未发布:无有效 canonical不可比较missing
X3r1RunReplay未发布:无有效 canonical不可比较missing
X3r2RunReplay未发布:无有效 canonical不可比较missing
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplayRunReplay双模型 Comparescored
X4r2RunReplay未发布:无有效 canonical不可比较missing
X4r3RunReplay未发布:无有效 canonical不可比较missing
case6Claude 15/15 · GPT 9/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplay未发布:无有效 canonical不可比较missing
C0V0r2RunReplay未发布:无有效 canonical不可比较missing
C0V0r3RunReplayRunReplay双模型 Comparescored
X1V0r1RunReplayRunReplay双模型 Comparescored
X1V0r2RunReplay未发布:无有效 canonical不可比较missing
X1V0r3RunReplayRunReplay双模型 Comparescored
X2V0r1RunReplayRunReplay双模型 Comparescored
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplayRunReplay双模型 Comparescored
X3r1RunReplayRunReplay双模型 Comparescored
X3r2RunReplayRunReplay双模型 Comparescored
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplayRunReplay双模型 Comparescored
X4r2RunReplayRunReplay双模型 Comparescored
X4r3RunReplay未发布:无有效 canonical不可比较missing
case7Claude 15/15 · GPT 11/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplayRunReplay双模型 Comparescored
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplayRunReplay双模型 Comparescored
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplay未发布:无有效 canonical不可比较missing
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplayRunReplay双模型 Comparescored
X2V0r2RunReplayRunReplay双模型 Comparescored
X2V0r3RunReplayRunReplay双模型 Comparescored
X3r1RunReplayRunReplay双模型 Comparescored
X3r2RunReplayRunReplay双模型 Comparescored
X3r3RunReplayRunReplay双模型 Comparescored
X4r1RunReplayRunReplay双模型 Comparescored
X4r2RunReplay未发布:无有效 canonical不可比较missing
X4r3RunReplayRunReplay双模型 Comparescored
case8Claude 15/15 · GPT 4/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplayRunReplay双模型 Comparescored
C0V0r2RunReplay未发布:无有效 canonical不可比较missing
C0V0r3RunReplay未发布:无有效 canonical不可比较missing
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplay未发布:无有效 canonical不可比较missing
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplayRunReplay双模型 Comparescored
X2V0r2RunReplayRunReplay双模型 Comparescored
X2V0r3RunReplay未发布:无有效 canonical不可比较missing
X3r1RunReplay未发布:无有效 canonical不可比较missing
X3r2RunReplay未发布:无有效 canonical不可比较missing
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplay未发布:无有效 canonical不可比较missing
X4r2RunReplayRunReplay双模型 Comparescored
X4r3RunReplay未发布:无有效 canonical不可比较missing
case9Claude 15/15 · GPT 7/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplayRunReplay双模型 Comparescored
C0V0r2RunReplay未发布:无有效 canonical不可比较missing
C0V0r3RunReplayRunReplay双模型 Comparescored
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplayRunReplay双模型 Comparescored
X1V0r3RunReplayRunReplay双模型 Comparescored
X2V0r1RunReplayRunReplay双模型 Comparescored
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplay未发布:无有效 canonical不可比较missing
X3r1RunReplay未发布:无有效 canonical不可比较missing
X3r2RunReplayRunReplay双模型 Comparescored
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplay未发布:无有效 canonical不可比较missing
X4r2RunReplayRunReplay双模型 Comparescored
X4r3RunReplay未发布:无有效 canonical不可比较missing
case10Claude 15/15 · GPT 6/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplayRunReplay双模型 Comparescored
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplay未发布:无有效 canonical不可比较missing
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplayRunReplay双模型 Comparescored
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplay未发布:无有效 canonical不可比较missing
X2V0r2RunReplayRunReplay双模型 Comparescored
X2V0r3RunReplay未发布:无有效 canonical不可比较missing
X3r1RunReplayRunReplay双模型 Comparescored
X3r2RunReplay未发布:无有效 canonical不可比较missing
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplayRunReplay双模型 Comparescored
X4r2RunReplay未发布:无有效 canonical不可比较missing
X4r3RunReplay未发布:无有效 canonical不可比较missing
case12Claude 15/15 · GPT 4/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplay未发布:无有效 canonical不可比较missing
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplayRunReplay双模型 Comparescored
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplay未发布:无有效 canonical不可比较missing
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplay未发布:无有效 canonical不可比较missing
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplayRunReplay双模型 Comparescored
X3r1RunReplay未发布:无有效 canonical不可比较missing
X3r2RunReplay未发布:无有效 canonical不可比较missing
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplay未发布:无有效 canonical不可比较missing
X4r2RunReplayRunReplay双模型 Comparescored
X4r3RunReplay未发布:无有效 canonical不可比较missing
case14 · 主统计排除Claude 15/15 · GPT 10/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplay未发布:无有效 canonical不可比较missing
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplay未发布:无有效 canonical不可比较missing
X1V0r1RunReplayRunReplay双模型 Comparescored
X1V0r2RunReplayRunReplay双模型 Comparescored
X1V0r3RunReplayRunReplay双模型 Comparescored
X2V0r1RunReplayRunReplay双模型 Comparescored
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplay未发布:无有效 canonical不可比较missing
X3r1RunReplayRunReplay双模型 Comparescored
X3r2RunReplayRunReplay双模型 Comparescored
X3r3RunReplayRunReplay双模型 Comparescored
X4r1RunReplayRunReplay双模型 Comparescored
X4r2RunReplay未发布:无有效 canonical不可比较missing
X4r3RunReplayRunReplay双模型 Comparescored
case15 · 主统计排除Claude 15/15 · GPT 5/15
条件replicateClaudeGPT Preview同 cell状态
C0V0r1RunReplay未发布:无有效 canonical不可比较missing
C0V0r2RunReplayRunReplay双模型 Comparescored
C0V0r3RunReplayRunReplay双模型 Comparescored
X1V0r1RunReplay未发布:无有效 canonical不可比较missing
X1V0r2RunReplay未发布:无有效 canonical不可比较missing
X1V0r3RunReplay未发布:无有效 canonical不可比较missing
X2V0r1RunReplayRunReplay双模型 Comparescored
X2V0r2RunReplay未发布:无有效 canonical不可比较missing
X2V0r3RunReplayRunReplay双模型 Comparescored
X3r1RunReplay未发布:无有效 canonical不可比较missing
X3r2RunReplayRunReplay双模型 Comparescored
X3r3RunReplay未发布:无有效 canonical不可比较missing
X4r1RunReplay未发布:无有效 canonical不可比较missing
X4r2RunReplay未发布:无有效 canonical不可比较missing
X4r3RunReplay未发布:无有效 canonical不可比较missing

口径与公开边界

主模型

Claude 精确 ID:claude-opus-4-8;GPT 路由:gpt-5.6-sol_2026-07-09 / TRAPI gcr/shared;均为 high effort。

离线评分

冻结 VDiff Gold + discovery rubric,Gemini 3.1 Pro Preview,post-agent only;GPT preview 评分并发 15。

未公开

完整 transcript、代理日志、认证信息、private MCP config、环境变量和工作目录均不进入部署包。

稳定入口

详情页和 Viewer experiment ID 后续保持不变;完整复跑完成后直接替换 preview 状态。