#content-authenticity

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Kai Yao, Bence Szilágyi, Sebestyén Kamp, Máté Poór, Máté Szilveszter, Matyas K. Zsoldos, Marc Juarez

局部图像水印(Local Image Watermarking)与全图铺开的水印方案不同,它只把不可见信号嵌入到选定图像区域,使得可以从特定物体或区域恢复载荷(payload)并定位水印范围,同时对整图视觉质量的影响更小。然而既有研究普遍只评估自己提出的方法,所采用的图像变换集合、数据集和评估指标各不相同且不一致,导致跨方法无法直接比较,局部水印鲁棒性的整体图景十分模糊。为填补这一空白,本文提出首个针对局部水印的系统性鲁棒性基准,覆盖 55 种图像变换,并归纳为四大类:(i) 信号失真,(ii) 图像坐标对齐(几何同步)变化,(iii) 间接局部编辑,(iv) 直接水印编辑。基准评估了 MaskWM、WAM、OmniGuard、TrustMark 与 PixelSeal 五种方法,选取标准是它们原生支持水印定位,或只需极小改动即可支持定位。实验结果显示出若干规律:所有被评估方法都会在某些变换下失效;MaskWM 在载荷恢复与定位两项能力上表现最强,但在干净(未受攻击)设置下图像质量最差;引入同步(synchronization)机制可提升 MaskWM 在多种几何变换下的载荷恢复率,但会进一步牺牲图像质量。一个关键发现是,局部水印的鲁棒性强依赖变换的性质:最强的方法往往能容忍信号失真类变换,而几何失配以及生成式局部编辑(如图像修补 inpainting、外扩 outpainting)则可能完全破坏载荷恢复。作者还指出,载荷恢复与区域定位虽然相关但并不等价,二者都强烈取决于变换对水印区域本身的影响程度。该工作适合水印鲁棒性、AI 生成内容溯源与图像取证方向的读者。

💡 推荐理由: 水印是 AI 内容溯源与取证的关键防线。该基准揭示局部水印在几何失配与生成式局部编辑(修补/外扩)下可能完全失效,帮助蓝队理解溯源链路的失效边界,并推动评测口径与指标的统一。

🎯 建议动作: 研究跟进,并将该基准纳入内部水印鲁棒性评估基线

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Shubhashis Sengupta, Benjamin McCarty, Milind Savagaonkar, Rhine Andotra

这篇论文探讨生成式AI(GenAI)对内容真实性带来的系统性风险。作者提出了“真实性债务”(authenticity debt)概念:组织在部署AI生成内容时,若未保留可验证的来源、完整性和问责机制,将累积机构性负债,未来可能在监管、法律或市场审查下暴露。论文首先构建了生成式AI危害与攻击向量的多维分类法,涵盖真实性、来源(provenance)、完整性和问责四个层面。随后,系统评估了现有技术控制手段的能力与局限性,包括数字水印(如DALL-E水印)、来源框架(C2PA、Adobe CAI)和检测技术(AI生成文本/图像检测)。核心论点是:在开放、对抗且不断演化的环境中,没有任何单一机制足以保障内容真实性。受零信任架构和企业治理框架启发,作者提出一个分层参考架构,融合密码学来源(如数字签名、区块链)、人在回路验证和持续治理,以实现大规模可防御的真实性。论文还分析了欧美监管环境(EU AI Act、美国FTC指南、NIST AI RMF),并为组织提供实践指导原则,建议将真实性建设视为机构基础设施而非事后补救。该研究适合安全架构师、合规官和AI系统设计者阅读,以理解GenAI时代内容信任的挑战及系统性解决方案。

💡 推荐理由: 为防御者提供了系统性框架来管理AI生成内容的风险,尤其适合SOC和合规团队用于构建内容溯源和完整性验证策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)