Offline-Verifiable Accountability for Cross-Organization Agent Messaging: A Preserved Evidence-Bundle Approach
该论文针对跨组织智能体（Agent）工作流中的问责与审计难题，提出了一种离线可验证的保留证据包（Preserved Evidence-Bundle）方法。在跨组织场景下，多个组织参与智能体间的消息交互与委派操作，事后审计或纠纷评审时需要保留
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Recognition Without Enforcement: Configuration-Dependent Failures in LLM Agent Instruction Arbitration and External Control
该研究针对 LLM 代理在指令仲裁中的安全边界问题。LLM 代理需要同时处理系统提示、用户输入、记忆和工具等来源的指令，但研究发现模型对指令来源的仲裁不能保证强制信任边界，存在一种'识别-执行差距'：模型激活中可以线性解码出源格式特征（如角
REPLICANT: Learning Policies for Evading and Hardening Malware Detectors
该论文针对基于机器学习的恶意软件检测器在实际对抗环境中的鲁棒性评估问题展开研究。现有对抗攻击研究通常假设攻击者能够访问训练数据、特征空间或置信度分数等特权信息，这与真实世界的攻击者能力不符。为此，作者提出了一个名为 Replicant 的深
LLM-Based Agents for Software and Systems Security: Approaches, Applications, and Assessment
本文是一篇系统文献综述，聚焦于基于大型语言模型（LLM）的智能体（Agent）在软件与系统安全领域中的应用。研究背景是：安全分析工作往往依赖程序化流程，分析师需要检查异构工件、形成假设、调用工具、解读输出并修订计划。LLM智能体具备规划、工
When Verified Source Becomes Attack Input: Defending Smart Contracts Against LLM-Based Vulnerability Scanning
该论文关注智能合约在区块链上公开源代码所带来的新型安全威胁。传统上，智能合约项目为了建立用户信任，会在区块链浏览器上发布并验证源代码，使链上程序以可读形式公开。然而，随着LLM（大语言模型）智能体的发展，攻击者可以借助这些公开源码，利用自动
BEACON: Behavior-Anchored Cross-Source Knowledge Graph Construction for Cyber Threat Intelligence
本文提出 BEACON，一个基于 LLM 的跨来源网络威胁情报（CTI）知识图谱自动构建框架。研究背景是：大量 CTI 以非结构化报告形式存在，数量庞大且异构性强，人工分析难以应对；现有自动构建知识图谱的方法大多只处理单篇报告的部分信息，未
Optimal Adversarial Testing: Extracting Honest Test Results from Dishonest Test Takers
该论文研究在测试结果可能被不诚实测试者恶意扭曲的情况下，如何设计最优测试策略以恢复真实测试结果。现实中的考试、评估等场景常面临作弊或对抗性行为，随着AI技术发展，利用AI作弊的现象愈发普遍和严重，导致测试结果的可靠性受到威胁。作者将测试问题
Layered LLM Defenses as an Ensemble: Access Tiers, Inference Cost, and the Measured Failure Correlation Between Defense Layers
本文研究了大语言模型（LLM）防御体系的分层堆叠效果。实践中，防御者常通过叠加多层防御来增强安全性，但堆叠是否真正有效取决于一个关键条件：各防御层必须在不同的失败样本上出错，即失败独立性。然而，LLM安全文献虽推荐这一假设，却从未实际测量。
TagZilla: Automated Owner and Abuse Type Tagging for Indicators of Compromise in Threat Reports
本论文提出并实现了一个名为 TagZilla 的自动化平台，用于在威胁情报（CTI）报告中为失陷指标（IoC）自动添加归属（owner）和滥用类型（abuse type）标签。在网络攻击活动中，IoC 通常包括 IP 地址、URL、文件哈希
CAITLYN: Can LLM Agents Autonomously Synthesize Defenses against Emerging Injection Attacks?
本文针对大型语言模型（LLM）代理面临的提示注入攻击问题展开研究。提示注入攻击通过在代理检索的外部文本源中嵌入恶意指令或内容，诱导底层LLM执行超出其良性范围的危险操作。现有防御方法虽然能对抗已知注入攻击，但在LLM代理环境中部署仍存在困难
CHISEL-ing Back Source Code with AI-enabled Iterative Recovery
本论文提出 CHISEL，一个无需测试套件的迭代式源码恢复框架，旨在改进二进制反编译的质量。传统反编译器（如 Ghidra）生成的伪 C 代码难以阅读且通常无法直接编译；而近年来基于大语言模型（LLM）辅助的反编译方法虽然能生成可读性较好的
DisCTI: Who Needs to Know Timely? Automated Sector-Aware Cyber Threat Intelligence Dissemination
该论文提出一个名为 DisCTI 的自动化网络威胁情报（CTI）分发系统，旨在解决当前 CTI 分发中缺乏行业感知（sector-aware）和及时性的问题。研究背景是：尽管 MISP 等平台提供了行业标签功能（如能源、金融、政府），但实际
Not to Break, but to Attest: Adversarial Probes for Privacy-Preserving LLM Verification
该论文针对大语言模型（LLM）在部署后被篡改而常规输出基本不变的问题，提出一种基于 zk-SNARK 的隐私保护审计框架。该框架通过构造“对抗性探针”（adversarial probes）来放大已批准模型与修改后部署之间的 logit 漂
A User-Centric Context-Aware Permission Governance Framework for Privacy Control in Default Mobile Applications
该论文针对移动操作系统中默认（预装）应用权限控制机制存在的安全与隐私缺陷展开研究。尽管现代移动系统提供了运行时权限控制，但默认应用深度集成于系统、常以较高权限运行，且用户难以审查其行为。现有权限模型通常基于应用会话授予持久或临时访问，不区分
FISGuard: Defending Against Membership Inference via Fixed Input Subspaces
本文针对联邦学习（Federated Learning）场景下大语言模型（LLM）参数高效微调（PEFT）中的隐私泄露问题展开研究。在联邦学习中，客户端通常只共享梯度而非原始数据，但已有研究表明共享梯度仍可能泄露训练样本的成员关系（Memb
ContextLeak: Exfiltrating LLM Agent Context via Malicious Tools
该论文研究了一种针对 LLM 代理的新型恶意工具攻击：ContextLeak。LLM 代理（如基于工具调用的 AI Agent）在执行任务时，其运行时上下文（包括用户提示、执行轨迹、工具列表）可能包含高度敏感的信息。攻击者可以利用恶意工具窃
Semantic Watermarking with Order-Robust Detection over Sub-sentence Units
本文研究大语言模型（LLM）生成文本的语义水印技术及其鲁棒性。现有语义水印将标记绑定到句子语义而非具体词元选择，理论上能抵抗改写等保留内容的编辑。但攻击者提供给检测器的文本可能经过改写、重排序或重新分段，这些操作都会导致嵌入位移——检测时使
FlyBlind: Cross-Slice Timeliness Attacks on UAV Situational Awareness over 5G
本文提出并实验验证了一种针对基于5G独立组网（SA）的无人机超视距（BVLOS）运行场景的新型时间性攻击方法——FlyBlind。在典型BVLOS无人机系统中，指挥控制（C2）数据和视频反馈共享同一用户面，运营商通常依赖延迟和可用性等链路质
Do User-Authored Permission Policies Improve Protection Against AI Agent Overreach?
AI agent 正逐渐成为数字产品的主要交互界面，可能涉及电子邮件、文件、支付和个人数据等敏感操作。对于没有专业软件背景的普通用户而言，需要一种可理解且可复用的方式来控制跨服务的操作。本文研究一种机制：由语言模型将用户操作映射到自然语言后
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
本文提出 RedEvoAgent，一种面向 LLM 智能体执行环境的自动红队测试方法。研究背景是：基于 LLM 的智能体越来越多地部署在产品级执行框架中，针对这些智能体的越狱攻击不仅会造成不安全文本生成，还可能触发有害的工具调用和持久性状态