#text-to-video

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xingkai Peng, Jun Jiang, Jiayang Liu, Kejiang Chen, Weiming Zhang

本文针对文本到视频(T2V)生成模型的越狱攻击问题展开研究。现有越狱方法多从文本到图像攻击迁移而来,但未能充分利用视频生成固有的时间一致性特性,且需要大量视频查询优化,不适用于实际黑盒场景,其对抗性提示搜索也依赖启发式局部信号,缺乏结构化探索策略。为此,作者提出BSB(Between Safe Boundaries)框架,这是一种结构化、查询高效的越狱方法。BSB的核心思想是利用时间一致性,将有害意图编码为两个看似无害的边界状态之间的过渡,使得在视频生成过程中,插值这些边界状态会产生不安全的中间帧。攻击目标即找到这样的边界状态对。为降低计算开销,BSB在廉价的文本代理空间中使用蒙特卡洛树搜索(MCTS)进行探索,并定期用稀疏的视频级评估校准搜索结果。实验在Veo 3.1、Sora 2、Seedance和Kling v1等主流商业T2V模型上进行,结果显示BSB在攻击成功率上平均超越现有最强基线18.6%。该工作揭示了时间一致性是T2V模型中一个被忽视但重要的攻击面,并验证了结构化搜索在有限查询预算下有效发现漏洞。

💡 推荐理由: 首次系统研究T2V模型的时间一致性攻击面,提出的BSB框架在限查询黑盒场景下高效发现漏洞,对评估和提升多模态生成模型安全性具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)