简短回答
是的。AI图片检测器既可能产生误报,也可能产生漏报,因此绝不能将单一分数视为最终证据。
分数出错的原因
检测器的输出是概率性的。压缩、截图、编辑历史、缺失的元数据以及异常但合法的图像特征,都可能影响置信度。
更优的审核工作流程是什么样的
- 检查是否存在可信的provenance记录
- 检查可用的EXIF或相关元数据
- 对比检测器信号,而非仅依赖单一层级
- 审核可见的不一致之处与上下文
- 将存疑案例提交给人工审核人员
团队的实际操作要求
如果检测器判定某张图像可疑,下一步不应是“宣布其为伪造”。更稳妥的下一步是询问其为何可疑,以及provenance、元数据和可见证据是否支持相同结论。
因此,团队应将检测器分数视为分流输入,而非真相判定工具。良好的工作流程可帮助审核人员决定是否发布、标记、搁置或提交该图像。
ImageVerity的定位
ImageVerity旨在将provenance、元数据、检测器信号与视觉推理整合到一个工作流程中,使审核人员能够理解证据链,而非仅看到单一数字。