RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
该论文提出了 RoboJailBench,一个针对具身机器人系统中对抗性攻击和防御的标准化基准测试框架。随着视觉-语言模型(VLM)被集成到物理平台(如机器人和自动驾驶汽车)中,这些系统面临潜在的越狱攻击风险。以往的研究虽然提出了攻击和防御
今日共收录 1110 条安全情报,包含 284 个 CVE,411 篇安全通告,以及 113 篇研究论文。
← 返回归档列表该论文提出了 RoboJailBench,一个针对具身机器人系统中对抗性攻击和防御的标准化基准测试框架。随着视觉-语言模型(VLM)被集成到物理平台(如机器人和自动驾驶汽车)中,这些系统面临潜在的越狱攻击风险。以往的研究虽然提出了攻击和防御
本文研究印刷体攻击(typographic attack)对家庭机器人操作完整管线的实际威胁。开放词汇的具身AI代理越来越依赖视觉-语言模型(如CLIP)进行物体感知和任务接地,但共享嵌入空间引入结构脆弱性:物理场景中的印刷文本可在语义上覆
本研究以中小企业为对象,探讨其采用零信任架构的可行性。通过问卷调查亚太地区64名IT与安全专业人员,发现零信任熟悉度与云计算需求是驱动企业认知零信任必要性的最强正向因素,而累积的障碍(如成本、技术复杂性)与必要性感知仅呈现弱负相关。身份与访
本论文研究了文本到图像扩散模型在开源复用和下游微调场景下,多概念后门注入的稳定性问题。在模型反复复用和微调的生态中,多个独立方可能在同一模型中积累不同的概念-触发器关联,导致语义冲突和交叉概念纠缠,降低攻击可靠性。作者提出了Hydra框架,
该论文首次揭示了统一自回归模型(UAMs)中存在的多模态后门攻击风险。UAMs是一种能够在一个自回归过程中同时生成文本和图像标记的Transformer模型,其共享参数和多模态词汇表简化了训练流程并支持灵活的多模态生成,但同时也引入了新的安
本文提出了一种针对基于2-power cyclotomic环的模块格密码系统的概率多项式时间量子攻击。攻击的核心创新在于利用扩域链Q⊂Q(ζ_8)⊂⋯⊂Q(ζ_{2^k})对主理想问题(PIP)进行塔式分解,将高维格上的困难问题转化为低维子
本文研究利用近内存处理(Processing-in-Memory, PIM)架构来加速密码算法(AES-128 和 SHA-256),以解决传统冯·诺依曼架构中因数据搬运导致的性能瓶颈和能耗问题。作者指出,尽管密码算法本身计算效率较高,但在
网络流媒体中信息隐藏技术的广泛应用使得隐写通信成为严重安全威胁,因此亟需鲁棒的检测技术。然而,现有的网络语音流隐写分析方法大多依赖于特定场景下的数据分布,难以适应非同源数据分布的实际检测需求。本文通过Hessian分析发现,主流模型的损失景
本文提出了一种名为 reconCTI 的主动式网络威胁情报工具。随着信息技术快速发展,组织和个人越来越依赖在线环境,这也带来了身份盗窃、冒充、钓鱼等网络威胁的增加。在攻击链中,侦察(信息收集)是关键阶段,攻击者常利用开源情报(OSINT)来
本文研究将集整形理论(SST)作为可逆载荷整形层,应用于最低有效位(LSB)图像隐写术。该方案并非要取代现有隐写方法或作为新的嵌入方案竞争,而是作为一种互补的预处理阶段,使现有嵌入方法更容易应用且统计扰动更低。SST变换通过增加K个符号来延
本文在经典 Glosten-Milgrom (1985) 序贯交易模型中引入隐私机制:做市商观察到的交易方向信号经过一个二元翻转信道(翻转概率 η)扰动,这是对隐私机制(如差分隐私)作用于方向信号的自然信息论建模。在承诺贝叶斯做市商定价规则
本文揭示了一种新型后门攻击威胁,即动态提示架构中的功能融合(Functional Fusion)漏洞。现有基于骨干网络覆盖全微调的ViT后门攻击计算成本高且导致性能下降,因此攻击者转向视觉参数高效微调(PEFT)范式,包括适配器(如LoRA
本文研究公钥伪随机码(PRC)对抗编辑错误(插入、删除)的问题。PRC由Christ和Gunn在CRYPTO '2024提出,是一种纠错码,其码字在计算上与均匀随机串不可区分,但持有密钥者仍可解码,适用于AI生成内容的鲁棒且不可检测的水印。
本文首次系统研究了掩码扩散语言模型(MDLM)在训练阶段的后门攻击安全问题。MDLM是一种新兴的文本生成范式,不同于高斯扩散模型或自回归语言模型,其依赖离散状态破坏和迭代去噪。作者提出了名为SHADOWMASK的后门攻击方法,通过修改MDL
该论文研究的是无线空中联邦学习(OTA-FL)系统中的后门攻击防御问题。OTA-FL利用无线信道的叠加特性提高通信效率,但这一特性也导致参数服务器(PS)无法像传统联邦学习那样访问单个客户端的局部梯度更新,从而难以识别和剔除恶意梯度。此外,
该论文提出了 Devilray,一个可重配置的、参考级别的对抗性基线模型,用于系统性地探索伪基站(FBS)检测中的对抗性盲区。研究团队首次通过对商业伪基站(C-FBS)的学术分析,建立了经验性事实基础,并将这些观察扩展到3GPP标准允许的规
多模态智能体通过截图、文档和网页来选择合适的工具调用。当错误的视觉声明触发点击、邮件、数据提取或转账等操作时,幻觉不再仅是答案质量问题,而变成了授权漏洞。本文形式化了这种失败模式为“幻觉到动作转换”:一个无依据的感知声明为特权动作提供了前置
该论文研究了针对语言模型提示注入攻击的防御机制的几何鲁棒性问题。现有防御通常仅使用分类性能(如准确率)来评估效果,但本文发现高检测性能并不代表表征空间的鲁棒性。作者提出“潜在嵌入坍塌”(latent embedding collapse)概
该论文首次系统性地定义和测量了一种新型的智能体(agent)失效模式——‘意外崩溃’(accidental meltdown)。在日常操作中,基于计算机和网络的智能体不可避免地会遭遇各种环境错误,例如网页无法访问、文件缺失、本地或远程配置错
本文提出了一个核心观点:AI 代理(agent)的安全必须作为系统问题来处理,而不是仅仅依赖于提高模型自身的鲁棒性。作者认为,驱动代理的 AI 模型应被视为不可信的组件,而安全不变性(security invariants)必须在系统层面强