AI 生成图片检测准确率与误报：读懂数字背后的复核代价

AI 生成图片检测的“准确率”只有在说清检测任务、测试图片和判定阈值之后才有意义。一个工具可以把几乎所有图片都判对，却让复核队列里的误报多于真正的命中；一个很小的复核队列，也可能掩盖大量漏检。评估时请先拿到混淆矩阵的四个计数、样本中目标图片的比例和实际使用的阈值，再看任何单一百分比。

评估一个检测服务，可以归结为三个相互关联的问题：它检测的是什么；在您准备使用的阈值上会出现哪些错误；它无法评估的文件怎么处理。下文的算例把这三个问题的答案换算成复核团队实际要承担的工作量。

如果您只想快速判断一个准确率说法是否可信，请先读“中文里的准确率指什么”、混淆矩阵、目标比例和阈值四节，它们说明为什么一个很高的准确率可以与一个很差的复核队列同时存在。如果您负责组织评估，请继续读校准、覆盖率和留出集设计，最后使用文末的资料索取模板。文中所有数字均为假设示例，不是实测结果，也不是任何行业的欺诈发生率。

中文里的“准确率”指什么

中文资料对检测指标的叫法并不统一，同一个“准确率”可能指完全不同的量。阅读厂商材料或评测文章之前，请先把术语对齐：

问题在于，“准确率”在口语和宣传中常被用来指精确率，有时也被用来指召回率；“误报率”在部分资料中又被定义为“提示中错误的比例”，即 1 − 精确率，而不是上表中的误报率。分母不同，数字的含义就完全不同。因此，看到任何一个百分比，都应要求对方写出计算公式和分母。

一个公开的例子：据新京报贝壳财经 2026 年 1 月 23 日的报道，淘宝天猫于 1 月 20 日上线售后 AI 假图识别模型，平台负责人称其“AI假图自动检测准确率高达95%，召回率达50%”。报道没有给出两项指标的定义和测试样本。“准确率”与“召回率”的口径不同，对商家复核负担的含义也不同，因此看到任何一个百分比，都应要求对方写出公式和分母。

先定义什么算“阳性”

评估之前，先写下一句话，例如：“本次评估检验提交的整张图片是否由 AI 生成。”这样，整张生成的图片是阳性样本，符合条件的相机拍摄照片是阴性样本。这句话并没有为局部 AI 改动、常规修图、误导性文字说明或旧照片挪用建立测试。

如果您的业务需要发现 AI 局部重绘，请把它作为一项独立任务，用明确的标签单独评估。一张含有生成区域的相机照片，不能根据哪种归类让结果更好看而在阳性组和阴性组之间来回移动。同样，经允许的 AI 使用不一定构成欺骗：检测标签描述的是内容，其意义由业务制度和佐证材料决定。

还要定义计数单位。一次提交中的五张图片是五个图片判定，但可能只对应一个调查案件。如果一张图片被提示就要复核整个案件，那么按图片计算的准确率并不能直接预测按案件计算的复核量。

先读混淆矩阵，再看宣传数字

混淆矩阵把检测判定与独立确定的标签逐一对照。设想 10,000 张假设图片：100 张为 AI 生成，9,900 张不是。在某个固定阈值下，检测工具提示了 90 张生成图片和 99 张非生成图片。

每个指标回答的是不同的问题：

精确率由 90/189 四舍五入得到。误报率与精确率的区别至关重要：1% 的误报率并不意味着被提示的图片中只有 1% 是误报，因为两者的分母不同。本例中，提示里有 99/189，即 52.38% 是误报。这些指标的标准定义及其与混淆矩阵的关系，可参阅 scikit-learn 的分类指标说明。

一条“全部判为阴性”的规则，在同一批图片上也能达到 99% 的准确率，却一张生成图片都找不到。这并不说明它是有用的检测工具，只说明当某一类样本占绝大多数时，只比较准确率反而会让这种无用的规则显得表现很好。

算一算目标比例对复核队列的影响

目标比例（prevalence，统计上也称患病率或流行率）是被评估群体中阳性样本所占的比例，本例为 1%。在召回率和误报率保持不变时，预期精确率满足以下关系：

精确率 =（召回率 × 目标比例）/ [（召回率 × 目标比例）+（误报率 ×（1 − 目标比例））]

代入比例值：0.90 × 0.01 / [(0.90 × 0.01) + (0.01 × 0.99)] = 0.009 / 0.0189 = 47.619…%。

下表使用期望计数，因此出现小数时表示平均意义上的期望，而不是真有“半张图片”。

假设：每 10,000 张图片，召回率固定为 90%，误报率固定为 1%。

因此，在正负样本各占一半的基准测试上得到的漂亮精确率，换到目标比例很低的真实业务中并不成立。上述计算假设各类别的表现保持不变；实际上，不同的进件渠道还可能包含更难判断的图片，召回率和误报率本身也会变化。

不要用“被提示的比例”去估计目标比例，因为这个比例本身就包含错误。请对一部分进件做独立标注，报告无法确定标签的样本；如果估计仍不确定，就测试几种合理的目标比例情景，并在确定阈值之前，用这些情景预算复核人力。

按触发的动作选择阈值

对于“分数越高、生成证据越强”的检测分数，降低提示阈值会纳入更多图片。在同一批已打分的数据上，降低阈值不会让原先被提示的图片退出队列，因此真阳性和误报可能同时增加；提高阈值则相反。精确率并不一定随阈值每一步都改善，这取决于真实标签在分数上的排列方式。

下面是在同一批 10,000 张图片上构造的比较。由于不同系统的分数刻度不同，这里不给出具体的分数切点。

假设的阈值比较：每档阈值下都是同样的 100 张生成图片和 9,900 张非生成图片。

假设每条提示需要 6 分钟复核，三个队列分别需要 39.2、18.9 和 9 个人工小时，尚不包括后续调查。选择最小的队列，也就接受了 30 张漏检而不是 5 张。两种选择都不是天然正确的：可接受的方案取决于提示触发什么动作、有多少复核人员，以及各类错误的后果。

请索取您打算使用的工作点上的表现数据。ROC 曲线概括了不同阈值下召回率与误报率的关系，但曲线下面积并不告诉您在您能接受的误报上限下召回率是多少。美国国家标准与技术研究院（NIST）在 NIST AI 100-4 第 4.2.2 节与附录 E 中专门讨论了在固定低误报率下报告真阳性率（TPR@FPR=x），适用于必须把误报率控制在很低水平的场景。

区分置信度与校准

分数“90”可能是一个排序信号、一个经过变换的模型输出，也可能是一个概率估计。它不会自动等于“90% 的概率是 AI 生成”，更不表示“90% 的像素被改过”。在给这个数字赋予含义之前，先拿到分数的定义。

校准（calibration）回答的是：在可比的样本中，概率估计是否与实际观察到的频率一致。区分度（discrimination）回答的是：分数能否把目标类别分开。两者都重要，但不能相互替代。下面的诊断方法说明，在把概率说法写进业务规则之前如何先检验它。

分数内部：用观察频率检验校准

Fileverity 的分析把分数校准作为整体方法的一部分，目的是让分数在不同图片之间含义一致。检验这种关系的一个具体工具是可靠性图（reliability diagram）：把预测按概率区间分组，再比较每组的平均预测值与该组实际阳性频率。

对分组 B，计算 p̄_B = Σp_i / n_B 与 r_B = Σy_i / n_B。其中 p_i 为预测概率；y_i 在样本经独立确认为阳性时取 1，否则取 0；n_B 为组内样本数。该组完全一致意味着 p̄_B = r_B，并不意味着每一个单独预测都是确定的。Guo 等人讨论了神经网络分类中的可靠性图和校准度量，见 Guo 等，ICML 2017。

来看一个示意性的二分类生成检测评估：

按样本数加权的分组绝对差为 Σ(n_B / N) × |p̄_B − r_B|。本例为 (0.10 + 0.10 + 0.20) / 3 = 0.1333，约 13.3 个百分点。它描述的是这些分组中的偏差，既不是分类错误率，也不表示每个分数都偏差 13.3 个百分点。不同的分组方式可能掩盖或暴露不同的偏差，因此请把各组计数和图表与汇总值一并保留。

校准还取决于被评估的群体。Ovadia 等人的研究表明，在数据分布发生偏移时，不确定性估计可能变差，见 Ovadia 等，NeurIPS 2019。任何校准映射都应在最终验收样本之外拟合，然后按相关的进件渠道分别检查。如果试点 Fileverity，请把您自己的进件渠道纳入这项校准检查。

不确定和不支持的文件要留在分母里

检测工具可能放弃判定、拒绝不支持的格式、超时，或返回“图片质量不足”的提示。这些结果需要单独计数。把它们排除在外，可能恰恰因为最难的样本消失了，系统才显得可靠。

再看一批假设数据：1,000 份提交中，850 份得到可用的分类结果，100 份结果为“无法判定”，50 份处理失败。分类覆盖率为 850/1,000 = 85%。若 833 个分类正确，则已分类文件中的准确率为 833/850 = 98%；而在全部提交中，得到正确分类的比例是 83.3%。后者是一个考虑了覆盖率的描述性数字，不是通常意义上的二分类准确率。其余 150 份属于未决，既不自动算错，也不自动算作阴性。

请把准确率与覆盖率一起报告，并按已知标签和进件渠道拆分覆盖率。系统可能对阳性样本更频繁地放弃判定。总体召回率应写明如何处理放弃判定的样本，并与“仅限已分类样本的召回率”并列报告，让使用者看清每个分母排除了什么。对未决文件要设计兜底路径，并把这条路径纳入工作量估算。Fileverity 的报告把“无法判定”作为一种独立结论列出，不会把证据不足的图片计为“未发现异常”；这一点在评估时同样应当核对。

建立有代表性、未被动过的留出集

评估需要站得住的标签和抽样计划。请使用来源有记录、获得授权的材料：受控条件下生成的样本、拍摄过程可追溯的相机原图，以及在相关时单独标注的改动样本。另一个检测工具的判断不是标准答案。存在争议的标签应保留为“未决”，并记录裁定规则。

样本要与实际收到的文件相匹配，而不只是干净的原图。请纳入您业务中实际出现的渠道、图片尺寸、内容类别和常规处理过程，例如经即时通讯工具转发或以截图形式提交的图片；截图与压缩对检测的影响，见截图和微信压缩过的图片还能检测吗。划分数据时，同一来源图片的各个变体要放在同一侧，否则同一场景可能同时进入调参集和评估集。条件允许时，也按拍摄批次和来源集合分开。

用开发集选择阈值，再用独立的留出集对选定方案检验一次。如果留出集未通过后又据此修改方案，那么它就成了开发证据，修改后的方案需要新的、未被动过的测试集。对于闭源服务，请询问其训练数据与公开基准是否存在已知重叠，并承认训练数据重叠无法完全核查。

另外保留一个刻意挑选的高难度挑战集作为补充，并与代表性样本分开报告，避免人为多抽的特殊样本被误当成正常进件的目标比例。生成图片检测的研究之所以专门测试跨生成器的泛化能力，正是因为在一种来源上表现好，并不能证明对所有来源都有效，见 Wang 等，CVPR 2020。

在看结果之前确定验收标准

写一份评估记录，把每个指标与它要支持的决定对应起来。

示例：用于把图片转交人工复核的业务流程的验收标准。

置信界限可以防止把一个干净的小样本误当成确定结论。在 300 个相互独立的阴性样本中误报为 0 时，精确的单侧 95% 二项分布上限为 1 − 0.05^(1/300)，约为 0.994%；若只有 100 个样本，则约为 2.951%。

推导很简单：设误报概率为 p，则 n 个独立阴性样本全部未误报的概率为 (1 − p)^n；令其等于 0.05，即得上限 p = 1 − 0.05^(1/n)。所以，观察到零误报并不能证明误报率为零。这些计算假设样本相互独立且有代表性；大量近似重复的照片，提供不了与独立提交同等的证据。

上文“中等阈值”示例中观察到的 1% 误报率，无法满足“置信上限不高于 1%”的要求。点估计和不确定性界限回答的是不同的问题。请在收集测试集之前，按所需证据规划样本量。

监测漂移，谨慎表述结论

上线后，请持续监测提示率、未决率、渠道构成、复核时长和经独立确认的结果。仅凭提示率上升，无法区分是生成图片变多了，还是误报变多了。也要抽查未被提示的样本；只复核提示，漏检基本上是看不见的。如果某些组别是刻意多抽的，在估计全量指标时要按抽样概率加权。

记录模型、阈值和进件流程的变化。发生实质性变化后重新评估；即使看板上的平均值看起来平稳，也要保持定期的标注抽查。新的生成工具、新的提交渠道或新的内容类别，都可能在整体指标没有明显报警的情况下改变表现。

在案件记录中，把观察与决定分开写。“该图片超过复核阈值”是观察；“这支持对 AI 生成的疑虑”是推断；经核实的原图或有记录的创作过程提供佐证；索取这些材料是动作。以上任何一句话本身，都不能证明存在欺诈，也不能证明画面所示事件的真假。

把准确率说法变成一份资料索取清单

请索取足够的信息，把对方声称的结果与您的进件和下一步动作联系起来。以下请求可以直接用于与服务商沟通：

我方需要评估 [整图 AI 生成 / 局部改动 / 其他已定义任务]，适用于 [文件格式、进件渠道与画质条件]。检测结果将触发 [复核动作]，日处理量约为 [每日图片数与案件数]，复核能力为 [每日人工小时或案件数]。

请提供：被评估的产品版本与分数定义；标签来源及阳性、阴性样本数；拟用工作点上混淆矩阵的全部四个计数；不确定性估计；以及“无法判定”、不支持和处理失败的输入的分别计数。请说明各项指标排除了哪些文件，把这些文件计入后覆盖率和召回率如何变化，以及同一来源的图片是否同时出现在调参集和评估集中。您所称的“准确率”“误报率”请写明计算公式。

请指出哪些证据适用于本用途，哪些条件尚未测试，以及正式试点需要证实什么。

Fileverity 面向图片的 AI 生成、篡改与来源三类问题设计，检测原理一页说明了各类证据如何综合权衡。Fileverity 不以单一准确率数字作宣传，因为准确率取决于检测任务、阈值与进件渠道；我们建议在您授权的样本上按上述方法共同验证，报告把“无法判定”作为独立结论列出，便于您直接统计覆盖率与复核工作量。请先通过图像鉴伪确认相关任务，再把您的资料索取清单发给我们的团队。文档检测方面，FVDOC V3 按语言和文书类型公开的误报率、检出率与样本量，见 文档检测准确率与误报率。涉及数据处理和总复核成本的完整采购决定，请继续阅读企业如何选择 AI 生成图片检测工具；如果您还不确定一张图片该从哪里查起，可从如何判断一张图片是不是 AI 生成的开始。

作者 Yang Zheng · 审核 Bill Liu