Benchmarking Autonomous Agents against Temporal, Spatial, and Semantic Evasions
本文针对基于大型语言模型(LLM)的自主智能体系统(如OpenClaw)中存在的安全漏洞进行了深入研究。现有漏洞分析大多集中在单轮、无状态的行为上,忽略了有状态多轮交互和动态工具调用带来的扩展攻击面。为此,作者提出了一种多维度逃避框架,包含
共收录 457 条相关情报。
← 返回所有主题本文针对基于大型语言模型(LLM)的自主智能体系统(如OpenClaw)中存在的安全漏洞进行了深入研究。现有漏洞分析大多集中在单轮、无状态的行为上,忽略了有状态多轮交互和动态工具调用带来的扩展攻击面。为此,作者提出了一种多维度逃避框架,包含
可信执行环境(TEE)通过硬件隔离保护敏感数据和计算免受受损操作系统的攻击。然而,TEE应用不可避免地需要通过SDK接口与不可信的操作系统交互,不当的代码分区可能导致严重漏洞,如数据泄露和代码注入。先前工作提出了静态分析工具检测此类问题,但
本文针对可信执行环境(TEE)应用中输入验证缺失导致的安全漏洞检测问题展开研究。由于TEE构建和运行环境的配置成本高、复杂性大,且硬件隔离限制了可观测性,现有安全分析方法难以有效应用于TEE应用。为此,作者提出SymTEE,一种新型的大语言
本文针对C/C++软件中模糊测试(fuzz testing)的关键瓶颈——fuzz harness(连接模糊器和库API的程序)的正确性问题,提出了一种自动化生成高质量harness的系统QuartetFuzz。现有的自动化harness生
软件漏洞是严重的安全威胁,仅2025年报告的CVE数量就接近5万个。大型语言模型在自动化漏洞检测方面展现出潜力,但仍面临三大挑战:一是生成的漏洞报告误报率高且缺乏可重复验证;二是现有的LLM方法在漏洞定位时粒度选择次优,函数级分析在上下文过
该论文提出了ASSEMBLAGE-DEEPHISTORY,一个跨构建的二进制数据集,旨在弥补现有二进制语料库缺乏时间维度、跨编译多样性以及CVE标签组合的不足。数据集包含73,610个二进制文件,涵盖248个开源项目,使用GCC、Clang
现代深度神经网络(DNN)通过反复微调来融入新数据与功能,但这种演进工作流引入了安全风险:当更新数据不完全可信时,攻击者可能在微调过程中植入后门(Trojan)。现有的后门检测方法通常需要重建触发器或依赖干净验证集,假设条件强且计算开销大。
关键基础设施运营商日益需要评估和修复已部署工业软件中的漏洞。然而,许多工业软件属于不透明工业软件(OIS),包括剥离符号的固件、专有协议处理器以及无源代码、无符号表、无构建环境或硬件接口的编译控制逻辑。虽然二进制分析可以识别漏洞候选,但现有
该论文研究了编码代理(coding agents)在执行良性用户请求时可能产生“过度动作”(overeager actions)的问题。编码代理通常被赋予shell、文件、网络等高级权限,当用户提出一个看似无害的任务(如修改代码)时,代理有
本文提出了一种名为 ContraFix 的自动化漏洞修复(AVR)智能体框架,旨在解决当前基于大语言模型(LLM)的智能体在修复真实世界漏洞时存在的两个核心问题:语义误解和技能复用不足。现有智能体通常仅从单一失败执行(如崩溃报告)进行推理,
本论文复现并扩展了 Spracklen 等人 (USENIX Security '25) 关于代码生成大语言模型 (LLM) 产生包名幻觉的研究。Spracklen 的工作表明,LLM 在生成 Python 或 JavaScript 代码时
本文系统研究了固件模糊测试中的输入传递问题。现有固件模糊测试工具通常直接沿用通用软件的模糊测试方法,但固件输入具有异步、不确定时机和数量的特点,导致现有方法要么过量传递输入(stuffing)使处理函数过载,要么传递不足(starving)
该论文针对关键制造基础设施中勒索软件恢复的挑战,指出传统“备份-恢复”思维无法解决制造系统特有的耦合问题。作者通过PRISMA系统的多源文献综述,包括学术文献、标准指南、威胁框架、公开事件材料及原始证据,识别出九种经证据支持的恢复失败模式:
本文提出 Veritas,一个基于语义的二进制内存破坏漏洞检测框架。针对剥离二进制文件中恢复对象语义、跨过程传播和可行触发条件的难点,Veritas 结合了三个关键组件:首先,一个基于 RetDec 提升的 LLVM IR 的静态切片器,重
该论文研究了一种针对LLM驱动的自主Agent的新型供应链攻击方法——语义合规劫持(SCH)。随着Agent通过第三方技能市场集成外部功能,攻击面扩大。现有安全审计机制依赖代码扫描识别显式payload或预定义威胁内容,但若恶意行为不含直接
库模糊测试是保障软件供应链安全的重要手段,但大规模采用仍面临成本高昂、环境配置复杂、测试用例生成难以满足复杂API约束,以及难以区分真实库bug与测试驱动导致的崩溃等问题。现有的基于LLM的自动化工具通常作为一次性代码生成器运行,忽略了运行
该论文针对当前大语言模型(LLM)智能体的主流架构——ReAct范式提出了根本性质疑。ReAct让智能体在每一步观察网页内容后决定下一步动作,这使得来自卖家、客户、广告商等不同来源的网页内容直接流入模型,为提示注入攻击提供了直接路径。作者提
该论文提出了一种自动检测 Linux 内核驱动中引用计数错误(reference counting bugs)的工具 DrvHorn。引用计数是内核实中管理资源(如内存、文件描述符等)生命周期的关键机制,一旦出现错误(如少放、多放或未初始化
本研究针对漏洞修复提交(VFC)的自动化检测问题进行了系统性的实证评估。背景是:安全补丁部署的及时性至关重要,但官方漏洞建议库(advisory databases)平均比补丁发布延迟25天,且许多修复从未被收录为建议。当前该领域存在超过2
本论文针对软件开发中安全投入不足的问题,提出并评估了一种基于团队层面的微支付激励机制,旨在通过可量化的安全指标改善代码安全。研究设计了半自动化的度量流水线,集成 Bearer、Detekt 和 mobsfscan 等静态分析工具,聚合安全发