Rethinking Visual Provenance: Detection and Watermarking Across Direct Visual Generation and LLM-Driven Code Rendering
AI systems create images and videos with image/video generation models or by writing code and graphics descriptions that
#cs.CV
共收录 217 条相关情报。
← 返回所有主题ATLAS-AL: Adaptive Trust-Region for Latent Adversarial Searches via Active Learning
Security evaluation of learning-based systems requires more than just testing the system against a fixed collection of a
Visual Grounding Safety in Vision-Language Models
Vision-language models (VLMs) are increasingly trained to generate structured outputs like points and bounding boxes tha
The Poisoned Conversation: Privacy-Leaking Watermarks in Unified Multimodal Models
该论文关注统一式多模态模型（unified multimodal models）带来的新型隐私威胁。此类模型在同一个对话上下文中既能理解也能生成文本、图像等多种模态，交互更流畅自然，但这一设计也改变了原有的隐私威胁模型：对话某一部分暴露的信
Is it Possible to Generate Irreversible PolyProtected Templates from Face Embeddings using System-Specific Keys?
本文研究 PolyProtect 生物特征模板保护方法在“系统级密钥”（system-specific keys）场景下的不可逆性问题。传统上，PolyProtect 使用“主体级密钥”（subject-specific keys），即每个
Learning Normal Diffusion Dynamics for Backdoor Defense in Text-to-Image Models
本文针对文本到图像（T2I）扩散模型的后门防御问题，提出从“转移动力学”（transition dynamics）视角进行检测与定位的新框架 NDDL（Normal Diffusion Dynamics Learning）。现有防御通常依赖
Exploiting Vulnerabilities: Universal Adversarial Attacks on Vision-Language-Action Models in Robotics
该论文关注具身智能场景下视觉-语言-动作（Vision-Language-Action, VLA）模型的安全性。VLA 模型将视觉感知、语言指令理解与动作生成统一到端到端学习框架中，使机器人能够根据自然语言指令直接完成抓取、摆放等操作任务，
Anchoring Adversarial Trajectories to Data Manifolds: A Bilevel Transfer Optimization Framework
该论文关注对抗样本的迁移性（transferability）问题，即在黑盒场景下，用替代（surrogate）模型生成的对抗扰动能否有效误导未见过的受害模型。作者指出，现有迁移攻击存在一个关键瓶颈：轨迹级的几何失配。基于环境空间（ambie
Selective Channel Restoration for Backdoored Vision-Language Models
视觉语言模型（VLM）具备强大的多模态理解与生成能力，已被广泛用于图文问答、检索、多模态 Agent 感知等场景。但其微调流程通常依赖第三方或不可信数据，攻击者可通过在微调数据中投毒，向模型植入后门：在正常输入上表现正常，一旦出现特定触发模
Still There, No Longer Seen: Exposing Compression-Induced Risk in Large Vision-Language Models
该论文关注大型视觉语言模型（LVLM）在推理加速中被广泛采用的视觉 token 压缩技术所引入的安全盲区。压缩能显著降低推理成本，但现有鲁棒性评估多用聚合指标，无法回答一个关键归因问题：某次对抗性失败究竟是由压缩过程新增的，还是原本就继承自
Optimizing and Securing the Modern Watermarking Channel for Images
该论文针对当前用于满足生成内容可追溯法规的多比特后验水印（post-hoc watermarking）方案展开理论剖析与改进。此类现代方案通常由一对深度神经网络构成编码器与解码器，被当作纯黑盒进行端到端训练；训练时把水印信道中的噪声建模为一
MAD-Guard: Controlled Study of Autoregressive Generation versus Direct Decision Interfaces for Closed Multimodal Forensic Tasks
该论文提出 MAD-Guard，一个针对封闭式多模态取证任务的输出-决策接口受控研究框架，核心问题是：当多模态表示已经计算完成后，对于“输入复杂度高、输出熵低”的封闭取证判定（如真伪二分类），是否仍有必要进行自回归生成？作者在匹配的 Qwe
PlanGuard: A Guardrail for Multi-Step Plan Safety in Embodied Agents
具身智能体（embodied agent）在执行任务前通常会由任务规划器生成多步计划，而子任务之间的依赖关系以及与物理环境的交互，可能在执行过程中叠加出单步看起来无害、整体却具备物理危险性的组合风险。论文指出，现有防护手段存在明显盲区：通用
Region-Level Black-Box Defense Against Stealthy Embedding-Space Backdoors in CLIP
对比语言-图像预训练（CLIP）凭借强大的迁移能力和零样本能力已成为主流视觉骨干网络，广泛用于图像检索、零样本分类与多模态理解。然而近期研究揭示了一类关键漏洞：嵌入空间后门攻击。攻击者只需污染极少量图像-文本对，即可向 CLIP 的联合嵌入
Geometric Inconsistency Localization in Multi-View Image Sets
该论文关注新视角合成（Novel View Synthesis, NVS）模型生成图像的多视角几何一致性问题，并将其引入多媒体取证场景。NVS 模型能够从不同视点生成同一场景的逼真新视图，但这些生成视图彼此之间往往并不满足严格的几何一致性，
HyperErase: Scale-Calibrated Hypernetwork for Multi-Concept Erasure in Text-to-Image Models
该论文关注文本到图像（T2I）生成模型中的概念擦除安全技术。背景是 T2I 生成能力增强，但可能生成有害或不良内容。现有概念擦除方法多采用静态权重范式：训练一个冻结的适配器，难以适应多样化的提示词变化，并且在扩展到多个概念时会出现参数干扰。
TempQ-Jail: Query-Constrained Candidate Ranking for Text-to-Video Jailbreak Attacks
这篇 arXiv 论文关注文生视频（T2V）模型的安全对齐与越狱（jailbreak）攻击评估问题。作者指出，已有 T2V 越狱研究主要追求"更有效"或"更隐蔽"的候选攻击样本；但在真实部署、带安全防护的 T2V 系统中，视频生成与安全评估
Can Pixels Alone Reveal Image Origin? Minimax Limits and Learnable Interfaces for Passive Provenance
该论文研究「被动图像溯源」问题：仅凭像素本身能否判断一张图片的来源——来自人类、来自某一类 AI 生成模型，还是来自某个特定的生成器。作者指出，一旦源图像在到达验证器之前可以被编辑（篡改、加噪、重编码、对抗扰动等），溯源就从单纯的分类问题变
FARE: Forensic Acceptance Region Estimation for Catching Bait-and-Switch Image Generators
该论文研究 AI 图像生成器以不透明 API 形式部署后的完整性审计问题。现实中，客户只能查询已部署的服务，无法检查模型权重或架构，这给"调包"（bait-and-switch）留下空间：供应商可能先以某个生成器通过治理认证，之后在部署阶段
FeatMark: Feature-level Watermark Protection against Mimicry Attacks with Diffusion Models
该论文关注文本到图像扩散模型被滥用于数据高效的"模仿"（mimicry）攻击的问题：攻击者只需少量目标个体的公开照片，即可微调模型生成高度逼真的伪造图像（如换脸式深度伪造）。常见对策是在图像中嵌入不可感知的低能量水印，但近期研究证明这类像素