最新下载
热门教程
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
SYNCRED-Bench：首个针对AI生成视觉虚假信息合成可信度的基准测试
时间：2026-06-05 12:24:01 编辑：袖梨 来源：一聚教程网
SYNCRED-Bench：首个针对AI生成视觉虚假信息合成可信度的基准测试
一台由AI生成的“正府公告”从文字到公章都无比逼真，一眼望去几乎无人怀疑。这样的虚假内容，正在成为新一轮视觉伪造的核心威胁。日前，研究团队推出了SYNCRED-Bench，一个专门针对AI生成视觉虚假信息可信度的基准测试，旨在评估模型识别这类“高仿真伪造图”的能力。
这个基准测试包含600张AI生成的虚假信息图像，覆盖六种可信类别和七种细粒度传播风格。为了测得更准，团队还加入了一个由450张真实图像组成的负例集FP450，用于衡量系统的误报情况。说白了，就是既要抓出假图，又不能冤枉真实图片。
现有模型的真实表现
评估结果显示，现有系统确实不理想。在5%假阳性率的约束下，15个多模态大语言模型（MLLMs，即能同时理解图像和文本的AI系统）的检测率仅有10.5%。也就是说，面对100张假图，这些模型只能揪出十多张，剩下的全当成真的放过去了。这样的表现能让人放心吗？
研究人员指出，SYNCRED-Bench的推出填补了针对“合成可信度”这一新兴虚假信息形态的评估空白。过去的图像伪造检测往往关注图像质量、像素痕迹或深度伪造人脸，但这类AI生成的视觉谎言，其实是靠仿冒真实可信的排版、公文格式和官方标识来骗人——它利用的是我们对正规样式本身的信任。
可以说，SYNCRED-Bench真正在测试的，已经不是单纯的图像真伪判断，而是模型对“可信表象”的识别能力。比如一份仿冒的正府通告，图像本身的生成质量可能很高，关键在于它扭曲了机构名称、条款内容等文本信息。基准测试正是抓住了这个关键环节。
整体来看，这个基准测试的推出算是给了行业一个清醒的提醒：咱们对AI生成视觉假新闻的防御能力，其实还差得挺远。如果说图像生成技术已经可以“以假乱真”，那么检测手段目前确实还跟不上这一波走得太快的新威胁。未来如果要真正遏制这类虚假信息的传播，光靠模型识别是不够的，从内容生成、流通到检测，整条链路都得跟上。