#bci

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Jianwei Tai

本文针对脑机接口(BCI)到大型语言模型(LLM)智能体的管道提出了一个新型攻击面:脑提示注入(brain-prompt injection)。该管道将解码的神经活动作为工具使用智能体的授权通道,但攻击者可通过信号侧扰动、上下文仅注入和自适应双解码器攻击来改变路由动作,而EEG侧或文本侧监控器却无法察觉。作者定义了一个“路线安全审计契约”,包含最小日志模式、分母层次结构和端点规范,并证明了审计模式分离定理以及C3攻击依赖分解,表明净一致性和边际稳健性无法识别控制C3路由的联合项。作为校准层,作者将分割共形校准应用于非神谕EEG确认通道,并在明确威胁原型矩阵下报告了假接受前沿。在EEGMMI原生左/右命令控制数据集上,包含5400个事件、无害工具存根和种子/案例分母进行实例化。结果表明:来源块C2路由(0.000)、一致加来源路由C3翻转(1.000)、确认加来源路由C3翻转(0.000)。共形前沿在采集隔离下达到FAR 0.000(清洁效用0.150,α=0.005)和FAR 0.119(清洁效用0.452,α=0.10);攻击者可控制的确认通道将边界破坏至约1。主体簇自举在60名受试者上验证了区间;跨架构(TinyEEGNet、EEGNetV4)和容量扫描结果显示了领域内饱和。作者强调调解和确认可降低风险,但并非意图证书。本文为BCI-LLM智能体系统的安全性提供了理论基础和实用审计框架,适合安全研究人员、BCI系统开发者和LLM智能体安全从业者阅读。

💡 推荐理由: 首次揭示了BCI-LLM智能体管道中的脑提示注入攻击面,证明了传统监控盲区,对新兴的脑机接口驱动智能体系统的安全审计具有奠基性意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)