#control-flow

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Zichuan Li, Jian Cui, Xiaojing Liao, Luyi Xing

本文首次对大语言模型(LLM)智能体在多工具集成场景下的任务控制流安全性进行了系统分析。LLM 智能体利用一组工具进行推理和规划,但多工具集成带来了工具管理、兼容性、依赖关系和控制流保护等安全挑战。作者提出了一种新型威胁——跨工具收割与污染(XTHP),该威胁包含多种攻击向量,攻击者可先劫持智能体任务的正常控制流,进而收集或污染系统中的机密或私有信息。为评估该威胁的实际影响,作者开发了 Chord——一个动态扫描工具,用于自动检测真实世界中易受 XTHP 攻击的智能体工具。作者对来自 LangChain 和 Llama-Index 两大主流 LLM 智能体开发框架的 66 个真实工具进行了评估,发现其中 75% 的工具易受 XTHP 攻击,凸显了该威胁的普遍性。该研究为 LLM 智能体安全提供了新的视角,揭示了工具间交互中存在的控制流风险,并为后续的防御研究奠定了基础。适合 LLM 安全研究员、智能体框架开发者以及安全运营人员阅读。

💡 推荐理由: LLM 智能体正被广泛部署,多工具集成已成为常态,而本研究表明 75% 的真实工具存在控制流劫持与数据污染风险,直接威胁企业级智能体应用的机密性与完整性,安全团队需关注此类新型攻击面。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yu-De Lin, Nils Ole Tippenhauer

本文针对模糊测试中反馈收集的局限性问题展开研究。在传统模糊测试中,通常需要能够观察和插桩二进制程序中的基本块以获取执行反馈,从而指导输入生成。然而,在许多实际场景中,例如对黑盒设备进行原位模糊测试或对经过混淆编译的二进制进行测试时,无法直接收集这类反馈。为解决这一挑战,作者提出了基于运行时执行轨迹构建控制流图(CFG)类似结构的方法,以从执行轨迹中推导反馈信息。首先,作者介绍了一种简单的分歧检测方法,用于识别唯一的执行轨迹;随后,提出了一种改进的基于执行分歧图(Execution Divergence Graph, EDG)的方法。EDG 能够更有效地处理循环中的重复代码执行等特殊问题,并构建出更精细的反馈信号。作者实现了这两种方法,并在一系列基准测试和混淆目标上进行了实验。结果表明,与纯盲模糊测试器相比,基于 EDG 的方法显著提高了代码覆盖率和漏洞发现效率。此外,作者还展示了该方法在无法进行静态插桩的场景下的有效性。尽管本文研究的场景假设攻击者可以直接观察完整的指令轨迹,但该方案同样可应用于其他反馈通道(如功耗分析)的场景。本文的主要贡献在于提出了一种无需静态插桩即可从执行轨迹中提取反馈的新方法,并验证了其在模糊测试混淆二进制和黑盒设备中的有效性,为安全测试领域提供了一种实用的替代方案。

💡 推荐理由: 该研究为黑盒设备模糊测试和混淆二进制测试提供了新的反馈机制,无需静态插桩即可实现高效的引导式模糊测试,对安全测试工程师在受限场景下发现漏洞具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)