#semantic-hijacking

共收录 1 条相关安全情报。

← 返回所有主题
推荐 5.5
Conf: 50%
👥 作者: Xinyu Liu, Yukai Zhao, Xing Hu, Xin Xia

该论文研究了一种针对LLM驱动的自主Agent的新型供应链攻击方法——语义合规劫持(SCH)。随着Agent通过第三方技能市场集成外部功能,攻击面扩大。现有安全审计机制依赖代码扫描识别显式payload或预定义威胁内容,但若恶意行为不含直接注入,而是通过Agent固有的生成能力在运行时动态合成,则可绕过检测。SCH方法将恶意目标转化为非结构化自然语言指令,格式化为必要的合规规则,诱导Agent生成并执行未经授权的代码。论文构建自动化流水线,在三个主流Agent框架和三个基础模型上,结合场景化测试评估攻击有效性。实验表明,在最脆弱配置下,机密泄露成功率达77.67%,远程代码执行(RCE)达67.33%。引入多技能自动优化(MS-AO)进一步提升了攻击效果。由于操作后的技能文件省略了可识别的抽象语法树(AST)特征和显式恶意意图,被扫描工具检测率为0.00%。该研究揭示了Agent供应链中未被充分探索的攻击面,指出需要从基于签名的检测模型向语义意图验证转变。

💡 推荐理由: 该研究首次提出无payload的语义劫持攻击,绕过了现有安全扫描机制,对LLM Agent供应链安全构成严重威胁,推动安全社区重视语义层面的防御。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)