Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models
本研究提出了一种新型的智能体型远程访问木马（Agentic RAT），其核心创新在于将小型语言模型（SLM）本地化部署于攻击端，使恶意软件能够自主完成“观察-决策-行动”闭环，而无需依赖外部操作者或云服务。研究背景在于人工智能代理技术的进步
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Internalising the Identity Primitive: Cryptographic Individuality for an Autonomous Agent on a Public Blockchain
该论文提出并实现了一种在公共区块链上为自主代理建立‘密码学个体性’的新方法。核心研究问题是：当软件代理在公共区块链上积累权限与经济权益时，如何从密码学层面界定其‘个体’身份，而非依赖硬件、操作者或包装信任。作者将身份信任根迁移到由固定代码实
MutMem: Cryptographically Authorized Mutation in Persistent Agent Memory
该论文提出 MutMem，一个用于持久化智能体内存的授权变更协议，并集成在 HOM-AIMOS 持久化内存引擎中。核心问题在于：持久化内存需要根据后续结果调整早期证据，但可变的检索权重会引发“归因问题”——审查者必须区分经授权的自适应变更与
Privacy-Preserving AI Verification via Minimal Information Disclosure
本文提出了一种名为“最小信息泄露”（Minimal Information Disclosure, MID）的框架，用于解决AI验证过程中的隐私保护问题。AI验证通常需要验证者获取足够的信息以确认某项授权声明，但这些证据可能同时泄露关于模型
Agentic Incident Response through Digital Twin-Enhanced Multiscale Planning
该论文针对当前事件响应（Incident Response）依赖安全运营人员按预定义剧本（playbook）手动执行，导致决策过程缓慢且劳动密集的问题，提出了一种基于大语言模型（LLM）的智能体化事件响应规划方法。现有自动化方案中，基于控制
Antares: Foundation Models for Agentic Vulnerability Localization
本文介绍了 Antares，一个用于智能体式漏洞定位的紧凑语言模型家族，包含 350M、1B 和 3B 三个参数规模。漏洞定位是软件安全中的基础步骤，要求模型能对大型代码库进行推理，并迭代地识别脆弱实现。Antares 基于 IBM Gra
TrainShield: Targeted Awareness for Cybersecurity Training
本文针对网络安全培训中过度依赖脱离真实场景的传统教育模式、难以应对以人为目标的社会工程攻击这一问题，提出了一种名为 TrainShield 的上下文感知培训交互范式。TrainShield 的核心思想是将适应性学习干预直接嵌入用户日常工作流
Steganalysis of Adaptive Covert Collusion in Tool-Using Agent Populations: A Black-Box, Cross-Principal Approach
本文研究基于大型语言模型（LLM）的工具型智能体（agent）在共享基础设施上多实例并行部署时面临的新型“群体级”安全风险：少数智能体可能通过隐蔽的协作行为（如操纵市场、在评审中互相抬高、协同窃取数据）达成恶意目标，而单个智能体从个体视角看
Stylometric Defenses Against Author Impersonation in Software Repositories
该论文针对软件供应链攻击中的身份伪造问题，提出了一种基于笔迹风格学的补丁级作者验证方法。传统防御手段主要依赖账户权限管理，但无法有效防范维护者账户被攻陷后提交恶意代码的风险。作者利用经过20多年Linux内核提交历史微调得到的跨模态Tran
D-MUTRA: DLT-based MUTual Remote Attestation for Multi-Agent Systems
本文提出 D-MUTRA，一个基于区块链的互信远程证明框架，用于解决多智能体系统（MAS）中的运行时完整性验证问题。MAS 由多个自主软件代理组成，在关键网络物理域（如多机器人协作、工业物联网）中协同执行复杂任务。如果某个代理被攻陷并运行修
PolicyGuard: Prompt-Configurable Semantic DLP for LLM Coding Agents
本文提出 PolicyGuard，一个面向 LLM 编程助手的提示词拦截框架，用于在用户提示词进入代码生成模型之前进行语义级数据防泄漏（DLP）检测。研究背景是：AI 编程助手接受自由形式的自然语言提示，其中可能无意包含凭据、个人身份信息（
EntailLLM: Verifying LLM-Generated Vulnerability Discovery Paths with Domain Knowledge via Logic Programming
该论文针对大语言模型（LLM）在软件漏洞推理中可能静默违反领域知识、导致安全关键场景（如医疗设备）可靠性不足的问题，提出了一种基于逻辑编程的验证框架 EntailLLM。现有方法要么将 LLM 输出仅作为待评分的预测，要么将其限制在单张知识
Benign Alone, Harmful Together: Exploiting Experience Composition in Self-Evolving LLM Agents
该论文研究自进化大语言模型（LLM）智能体中的新型安全风险。自进化智能体通过将交互轨迹蒸馏为持久化经验来提升能力，但这一机制引入了安全隐患：单独看无害的经验，在跨会话积累并复用时可能共同削弱智能体的安全边界。现有记忆攻击通常需要直接访问记忆
MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication
该论文研究多智能体大语言模型（LLM）系统中的私有状态泄露问题。尽管智能体的公开输出看似正常，但其内部消息、工具参数、日志和持久化记忆可能暴露受保护状态。现有的隐私提示、文本脱敏和源代码级访问控制只能限制表面内容或数据访问，却没有明确规定一
Attention is All You Need to Defend Against Indirect Prompt Injection Attacks in LLMs.
大型语言模型（LLM）已被集成到许多应用中（如Web Agent）以执行更复杂的任务，但其在处理外部数据时容易受到间接提示注入（Indirect Prompt Injection, IPI）攻击的威胁。攻击者将恶意指令隐藏于不可信的外部数据
Mutate to Bypass: Autonomous Endpoint Evasion via Knowledge-Driven Multi-Agent Orchestration
本文提出 AutoBypass，一种基于知识图谱的闭环多代理自动化框架，用于评估商业终端检测与响应（EDR）系统的韧性。研究背景是：公开报告和开源资源披露了大量 EDR 规避技术，但现有自动化方法无法将这些碎片化安全知识转化为可运行的载荷，
$S^3$: Improving Agent Safety through Multi-Stage Defense
本文针对大语言模型（LLM）智能体在多阶段工作流（如记忆、规划、工具执行等）中面临的安全风险问题。现有安全方法通常只保护单一阶段，难以集成和覆盖全流程，导致智能体在整个工作流中缺乏全面防护。为此，作者提出“阶段特定安全技能”（Stage-S
Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting
本文研究了大语言模型（LLM）在批量提示（batch prompting）场景下的安全性问题。批量提示是一种实用的推理策略，通过将多个问题打包在一次请求中交给模型处理，以提升效率和吞吐量。然而，作者发现批量提示在实用性上的成功并未延伸到安全
Securing Agentic AI: From Per-Action Checks to Trajectory Assurance
本文提出自主代理（尤其是基于大型语言模型的代理）在承担重要任务时的安全性问题。作者指出，代理的安全性不仅取决于单个动作的正确性，更取决于其整体行为是否与运行环境的操作约束、组织政策、监管要求和技术标准保持一致。随着代理自主性增强并跨组织边界
SP2UBI: Secure and Privacy-Preserving Usage-Based Insurance
本文提出了一种名为 SP2UBI 的隐私保护型基于使用量保险（Usage-Based Insurance, UBI）方案。传统汽车保险依赖驾驶员年龄、事故次数等静态参数定价，而 UBI 基于驾驶行为定价，得益于智能交通系统的发展。然而，分析