Dataset Viewer
Duplicate

The viewer is disabled because this dataset repo requires arbitrary Python code execution. Please consider removing the loading script and relying on automated data support (you can use convert_to_parquet from the datasets library). If this is not possible, please open a discussion for direct help.

Qwen3 Base OLMES Code / Code FIM GPU 参考结果

本数据集保存 Qwen3-0.6B-Base 和 Qwen3-8B-Base 在 CUDA GPU 上运行 OLMES OLMo3 Code 与 Code FIM 口径所得的完整参考结果。它主要用于与其他推理后端 (尤其是 Ascend NPU)进行 task 级和 sample 级配对分析,因此除聚合分外还保留了 raw requests、模型 completion、逐样本 executor 结果、环境快照和完整运行日志。

结果

下表所有分数均为原始 primary_score × 100。Code 遵循 OLMoBaseEval 的两级 宏平均口径:先分别平均 6 个 MultiPL-E HumanEval 和 6 个 MultiPL-E MBPP 语言, 再将两个 MultiPL-E 聚合项与 BigCodeBench、HumanEval、DeepSeek LeetCode、MBPP、 DS-1000 共 7 项等权平均。Code FIM 是 3 个 FIM 叶子任务的等权平均,两者不混合。

Model Code Code FIM BigCodeBench HumanEval DeepSeek LeetCode MBPP DS-1000
Qwen3-0.6B-Base 21.0958 0.6565 17.5965 30.1639 1.3889 37.0563 14.1000
Qwen3-8B-Base 47.9464 1.4853 49.2807 70.5602 8.0556 66.5750 41.2400

20 个叶子任务的完整横向结果位于 summary/results.csv。每个 任务目录中的 task-*-metrics.json 是权威原始分数,CSV 和本页均由这些文件汇总。

MultiPL-E 与 FIM 明细

Model HE C++ HE Java HE JS HE PHP HE Rust HE Shell MBPP C++ MBPP Java MBPP JS MBPP PHP MBPP Rust MBPP Shell
Qwen3-0.6B-Base 23.6219 13.3900 28.2026 21.2539 13.8421 13.4098 35.1622 15.1312 40.6093 34.3278 25.4590 19.7808
Qwen3-8B-Base 60.8696 30.6764 62.9270 64.3245 60.6571 36.3133 61.5397 8.9054 60.4219 54.5261 58.4304 39.8887
Model MultiPL-E HumanEval MultiPL-E MBPP FIM Single FIM Multi FIM Random
Qwen3-0.6B-Base 18.9534 28.4117 0.9681 0.5503 0.4512
Qwen3-8B-Base 52.6280 47.2854 2.4395 1.2726 0.7439

实验设置

两组模型采用相同评测口径,仅 GPU 和远程 executor 节点不同。

配置项 实际设置
OLMES source commit 2154027d0cdf497beaf02a7a73a72d8f58e8e542
Python / PyTorch Python 3.12.13 / PyTorch 2.8.0+cu128
vLLM / Transformers vLLM 0.11.0 / Transformers 4.57.6
模型模式 Base、no-chat、BF16
模型参数 max_length=8192, gpu_memory_utilization=0.85, tensor_parallel_size=1, trust_remote_code=false
OLMES 调度 --gpus 1 --num-workers 1 --batch-size auto
随机种子 OLMES task 默认值 1234
结果保存 --save-raw-requests true
GPU 0.6B 使用物理 GPU 0;8B 使用物理 GPU 2;额外暴露 GPU 7 作为非零物理卡映射的 dummy device
Docker executor 每个模型独占一个 32-CPU、约 64-GiB 的远程节点;容器限制为 32 CPU / 48 GiB

任务与执行设置:

  • BigCodeBench:bigcodebench:3shot::olmo3:v2,5 completions,执行并发 2/2,单次执行 timeout 120 秒;
  • HumanEval、DeepSeek LeetCode、MBPP 和 12 个 MultiPL-E:OLMo3 n32:v2 alias,32 completions,执行并发 14/14;显式覆盖的 MultiPL-E timeout 为 60 秒;
  • DS-1000:ds1000:3shot::olmo3:v2,5 completions,执行并发 1/1, timeout 120 秒;
  • Code FIM:codex_humanevalfim_{single,multi,random}::olmo3,使用本地 evaluator,不连接远程 Docker;
  • sampling、stop sequence、prompt variant、few-shot 和 pass@k 均来自对应 OLMES task alias,没有在脚本外另行改写。解析后的完整 task config 保存在每个 task-*-metrics.json 中。

运行时间

两条 lane 并行运行。以下时间包含每阶段的模型重新加载、生成、远程执行、结果验证 和 vLLM 自然退出,时间戳为 UTC+8。

Model BigCodeBench Code Rest DS-1000 Code FIM 总耗时
Qwen3-0.6B-Base 01:27:47 01:46:08 00:42:37 00:10:00 04:06:32
Qwen3-8B-Base 01:31:53 01:45:48 00:47:01 00:10:26 04:15:08

机器可读版本见 summary/timings.csv。

完整性与异常审计

  • 两个模型均生成了 17 个普通 Code 和 3 个 Code FIM 叶子结果,所有阶段的 metrics.json、metrics-all.jsonl 与逐任务 metrics 均通过脚本校验;
  • Qwen3-8B-Base 的三个远程 executor 阶段没有检测到基础设施异常;
  • Qwen3-0.6B-Base 的 multipl_e_mbpp:js 有 2 个 completion 在调用远程容器时 timeout。审计 JSON 同时命中 executor_timeout 和 docker_invocation_exception 两种模式,因此计数显示为 2+2,但实际是同一组 2 次调用;
  • 该任务共有 397 道题、每题 32 个 completion,即 12,704 次执行。这 2 次异常 即使原本都应通过,对该叶子分数的最大影响也只有约 0.0157 分(×100);经 MultiPL-E MBPP 六语言平均和 Code 七项平均后,对顶层 Code 的最大影响约 0.000375 分,因此没有补跑;
  • lane 日志开头可见少量 lane_exit=1:这是正式评测前采集旧 uv 环境依赖快照 时发现环境没有 pip 模块所致。该问题发生在模型加载和任务运行之前;改为使用 Python package metadata 采集后才启动正式评测,不影响任何结果。

机器可读审计摘要见 summary/executor_audit.csv,详细 上下文见各阶段日志和 executor_audit.json。

文件结构

README.md
summary/
  results.csv
  timings.csv
  executor_audit.csv
scripts/
  README.md
  run_all.sh
  status.sh
  local.env.observed.sh
  common/config.sh
  common/run_lane.sh
qwen3_0p6b_base/run_01/
  outputs/{bigcodebench,code_rest,ds1000,code_fim,metadata}/
  logs/
  state/
qwen3_8b_base/run_01/
  outputs/{bigcodebench,code_rest,ds1000,code_fim,metadata}/
  logs/
  state/
SHA256SUMS

outputs 中包含:

  • task-*-requests.jsonl:送入模型的原始请求;
  • task-*-predictions.jsonl:completion、拼接后的待执行代码和逐样本执行结果;
  • task-*-metrics.json:任务配置、环境配置和任务级分数;
  • metrics-all.jsonl / metrics.json:阶段聚合结果;
  • executor_audit.json:远程执行器异常审计;
  • metadata/:依赖版本、Git 状态、模型配置 hash、GPU 快照及远程 Docker server/image 信息。

复现

实际运行脚本原样保存在 scripts/。它们来自一次同时包含第三条 Qwen3.5 lane 的 总实验,因此 run_all.sh 会启动三条 lane;仅复现本数据集中的两个模型时,应分别 调用:

cd scripts
cp local.env.observed.sh local.env
# 按新机器修改 OLMES 环境、模型、GPU 和 CPU 节点路径,并提前配置 SSH key。

bash common/run_lane.sh qwen3_0p6b_base
bash common/run_lane.sh qwen3_8b_base

两条命令应放在独立 tmux 窗口中并行运行。脚本要求对应 OLMES 远程 Docker 适配 已经存在,且远程节点预装 olmo-bcb-execution、olmo-ds1000-execution 和 olmo-multipl-execution 镜像。具体脚本顺序、完成标记和恢复行为见 scripts/README.md。

跨后端对齐时不要只比较顶层均分:应先比较 task config、prompt/token IDs 和 completion,再检查 executor 结果。随机采样任务本身可能有轮次波动,因此小幅总分 差异不能单独证明推理后端不一致。

Downloads last month
59