#text-to-video

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xingkai Peng, Jun Jiang, Jiayang Liu, Kejiang Chen, Weiming Zhang

本文提出了一种针对文本到视频(T2V)生成模型的新型越狱攻击框架BSB(Between Safe Boundaries)。现有从文本到图像攻击迁移而来的方法未能充分利用视频生成中固有的时间一致性特性,且需要大量视频查询优化,在实际黑盒场景中不可行。BSB通过将有害意图编码为两个单独无害的边界状态之间的过渡来利用时间一致性:攻击目标是那些插值会在视频生成过程中产生不安全中间帧的边界状态对。为了避免直接评估视频空间中所有候选对的高昂计算成本,BSB在廉价的文本代理空间中进行蒙特卡洛树搜索(MCTS),并定期用稀疏的视频级评估校准搜索结果。在主流商业T2V模型(包括Veo 3.1、Sora 2、Seedance和Kling v1)上的实验表明,BSB在攻击成功率上平均超过现有最强基线18.6%。研究发现,时间一致性是T2V模型一个未被充分研究但至关重要的攻击面,结构化搜索有助于在有限的查询预算下有效发现漏洞。

💡 推荐理由: 揭示了文本到视频模型特有的时间一致性攻击面,现有防御可能无效,为T2V安全研究提供了新方向。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)