GitHub 发布了 ReviewBench,一个开放的 AI 代码审查基准,现在就能用。它把审查系统放到一批真实 PR 的已知问题上,用同一套标准打分;GitHub 表示自己内部也用它来判断 Copilot 代码审查的改动是否真的有用。发布文章 详细讲了构建方式,以及怎么提交自己的结果。

关键事实

项目 内容
回答的问题 ReviewBench:GitHub 开源了 AI 代码审查基准
简答 GitHub 发布 ReviewBench:一个开放的 AI 代码审查离线基准,按 1.039 亿个真实 PR 的分布构建,含 19 种语言、219 个 PR 的语料、多来源金标准与四项精确率/召回率指标。本文说明它怎么建、凭什么可信,以及怎么提交你自己的审查系统。
阅读时长 ~3 分钟
最后更新 2026-10-06

基准里有什么

  • 分布按真实规模来。 语言、仓库规模和改动规模的分布,参照 GitHub 上 1.039 亿个真实 PR 构建,再收窄成一个有代表性的语料:19 种语言、219 个公开 PR。
  • 多来源金标准。 已知问题来自人工审查者、前沿大模型和静态分析三类来源。每个问题都按严重程度(critical 到 low)和类别(正确性、安全性、可靠性、可维护性、测试)打标,这样才能按切片看结果。
  • 四项指标。 grounded precision、grounded recall、augmented precision、augmented recall。带 augmented 的两项,是为了给「审查系统发现了、但金标准里没记录」的有效问题记分。

难的地方在金标准

代码审查基准的成败几乎全在标注质量上,而 ReviewBench 的信任链条写得很明确:一套对所有问题统一的公开评分标准、由资深工程师构建的人工标注开发集、按人类判断校准的评分器、所有来源统一标注,以及公开的一致性数据。发布前,资深工程师独立标注了金标准里的真阳性,公布的一致性为 96.6%。

它也不是一个孤立的榜单:GitHub 会把基准的变动和线上实验结果对照,看它能否预测线上方向 —— 真正的改进倾向于在线上体现,回退也会体现。

怎么用

文章面向两类人。如果你在评估现成的审查工具,这个基准能让你在同一批 PR、同一套标准下比较不同智能体,并按严重程度或类别切片,对齐你们团队真实的审查习惯。如果你在开发审查系统,可以把自己的系统接进来并提交结果。

对在桌面跑编码智能体的人来说,这是少见的、开放且可复现的标尺 —— 过去这类任务基本靠感觉评价。它也把预期说得很诚实:grounded recall 高的审查系统仍可能漏掉金标准里根本没出现过的问题,而带 augmented 的指标正是用来暴露这一点的。

MOOGH 是 Windows 上的桌面智能体工作区,可以让编码智能体直接在你的本地仓库上干活,每一步执行前都先给你确认。想拿自己的代码试,可以下载客户端。

常见问题

  • ReviewBench 只评测 GitHub 自己的审查器吗? 不是。它作为开放基准发布,文章里也讲了如何接入并提交自己的代码审查系统。
  • grounded 和 augmented 有什么区别? grounded 只对照金标准里的已知问题评分;augmented 还会给审查系统发现、而金标准未预料的合理问题记分。
  • 有了基准还需要线上测量吗? GitHub 的定位是互补:基准的变动会与线上实验对照,用作能预示线上结果的离线信号。
  • 对团队来说最实际的用法是什么? 用同一批 PR、同一套标准比较不同审查器,并按严重程度和类别切片看结果,而不是只盯一个总分排名。

相关阅读: