#embodied-ai

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Junchao Li, Xuelei Wang, Yuhang Huang, Qi Wang, Boyang Ma, Xuelong Dai, Minghui Xu, Yue Zhang

本文对嵌入AI(EAI)移动应用中的密码学误用进行了首次大规模测量研究。随着EAI应用从辅助界面演变为主动控制路径,移动端的密码学安全直接关系到网络物理信任。然而,现有安全研究主要关注EAI设备和云基础设施,忽视了移动控制层这一关键攻击面。为了填补这一空白,研究团队构建了EAIAppZoo基准,包含507个跨6个EAI领域的真实应用,并采用自动化语义感知分析管道测量了5类主要密码学失败模式的普遍性与特征。测量共发现12,975个误用实例(评估精度80.74%),揭示这些失败是由EAI特有的工程约束而非随机开发者错误驱动。研究还发现了结构性的安全权衡:延迟敏感的控制路径系统地削弱传输保护,而离线设备配置和对传统IoT SDK的依赖加剧了本地硬编码认证凭据。通过真实案例研究,展示了移动端密码学缺陷如何绕过标称的网络保护,使攻击者能够拦截命令通道并劫持EAI实体的物理控制。最终,研究指出移动应用已成为网络物理系统中脆弱且被忽视的密码学信任边界。

💡 推荐理由: 揭示了EAI移动应用作为关键攻击面被忽视的密码学风险,为蓝队和开发者在设计和审计这类应用时提供了具体的安全权衡和防御依据。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Junran Wang, Xinjie Shen, Zehao Jin, Pan Li

随着视觉-语言模型(VLM)被越来越多地部署为具身助手的自主认知核心,评估其在物理环境中的隐私意识变得至关重要。与数字聊天机器人不同,这些智能体在家庭、医院等私密空间运行,能够观察并操作包含隐私敏感信息与物品的物理实体。然而,现有基准仍局限于单模态、基于文本的表达,无法捕捉真实世界的复杂性。为弥补这一空白,本文提出了 ImmersedPrivacy,一种交互式视听评估框架,基于 Unity 模拟器构建逼真的物理环境。ImmersedPrivacy 通过三个递进层级测试模型的物理隐私意识:第一层级评估在杂乱场景中识别敏感物品的能力;第二层级测试适应社会语境变化(如陌生人进入房间)的能力;第三层级考察解决显式命令与隐含隐私约束之间冲突的能力。作者对 12 个当前最先进的 VLM 进行了评估,发现了一致的缺陷。在杂乱场景中,所有模型的性能随场景复杂度增加而单调下降,表明存在感知缺陷。当社会情境改变时,没有模型的选择准确率超过 65%。在冲突命令下,表现最好的模型 gemini-3.1-pro 也仅在 51% 的案例中完美平衡了任务完成与隐私保护。这些发现揭示了当前 VLM 在物理世界中存在感知脆弱性,并且无法让隐私知识主导其情境化行为。代码和数据已开源。

💡 推荐理由: 该研究首次系统评估了 VLM 在物理世界中的隐私意识,揭示了当前模型在杂乱场景、社会情境变化及命令冲突下的严重缺陷,对部署具身 AI 在家庭、医疗等私密空间的安全风险具有重要警示意义。

🎯 建议动作: 研究跟进,建议安全团队关注 VLM 在物理环境中的隐私风险,将其纳入内部评估流程。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)