Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection
该论文研究的是参数高效微调（PEFT）场景下的后门防御问题。随着大语言模型（LLM）与 LoRA 等轻量微调方法的广泛采用，攻击者可以通过污染微调数据或发布被植入后门的适配器（adapter），使模型在特定触发条件下产生恶意输出，而基座模型
#LLM
共收录 2152 条相关情报。
← 返回所有主题Backdoor Containment via Expert Quarantine and Shutdown in LLMs
该论文研究大型语言模型（LLM）后门防御问题。被植入后门的 LLM 在正常输入上表现正常，但在隐藏触发器下会产生攻击者指定的输出。现有防御覆盖训练前、训练中、训练后和推理时四个阶段，底层策略可归为两类：一是抑制后门学习，例如过滤投毒数据或在
Towards Hierarchical Cyber Defense with Large Language Models: From Planning to Execution
本篇论文研究自主网络防御中强化学习(RL)防御智能体的泛化瓶颈：用 RL 训练出的自主防御者通常与其训练所在的网络绑定，一旦网络规模发生变化，策略能力就会下降，往往需要按新规模重新训练。分层强化学习通过把"战略层目标选择"与"战术层动作执行
No One Architecture Fits All: A Cross-Environment Evaluation of Hierarchical Red Team Agents
该论文针对自主红队智能体（autonomous red team agents）研究中的一个方法论盲区展开：现有工作常把强化学习（RL）规划器与大型语言模型（LLM）规划器以混合分层的方式组合，用于对 AI 赋能的网络防御进行多阶段压力测试
ZoneClaw: Mitigating Persistent Memory Attacks by Establishing Memory-Zoning in OpenClaw-Style Computer-Use Agents
该论文研究的是 OpenClaw 类「计算机使用型智能体（CUA）」中长期工作区记忆（persistent workspace memory）带来的新型攻击面。这类智能体把用户指令、系统摘要和来自外部的内容统一以自动重载文件的形式持久化保存
CodeMimicry: Exploiting Safety Generalization Lag in Large Language Models via Structured Code Completion
该论文聚焦大语言模型安全对齐的一个被忽视的失效模式：安全泛化滞后（safety generalization lag）。作者指出，当前主流对齐训练与红队数据几乎全部集中在自然语言上，导致模型在代码域上未能继承同等强度的拒答能力。这一滞后在代
PassGPT+: Leveraging Linguistic Priors for Password Modeling
本文聚焦于密码这一仍占主导地位的在线认证机制，研究人类如何选择密码——这对防守方的口令强度评估与攻击方的口令猜测模拟同样关键。此前 PassGAN、PassGPT 等深度生成方法已证明可以从泄露口令库中直接学习口令结构，但二者都是从随机初始
Aletheia: Permission-Minimality Testing for Coding-Agent Rules
该论文关注编码智能体（coding agent）所依赖的「仓库指令文件」（如 AGENTS.md、copilot-instructions 一类指导性规则）带来的安全风险：这些文件本意是引导智能体正确完成开发任务，但也构成一条 prompt
Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
该论文研究多轮（multi-turn）交互场景下 LLM 智能体（agentic system）的安全风险。作者指出的核心问题是：现有防御往往孤立地评估单次动作或单个状态，而攻击者可以将多个单独看都合规的操作逐步组合，最终产生有害结果，这类
Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents
该论文研究 AI Agent 技能（Skill）供应链的安全检测问题。技能通过把指令与信息注入到 Agent 上下文中来扩展其能力，已被 OpenClaw、Claude Code 等 Agent 广泛采用；此前研究已证实第三方技能市场存在恶
Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks
这篇论文关注的是 LLM Agent 在多轮交互场景下所面临的安全威胁。随着 Agent 被部署到越来越复杂的工具调用与环境交互中，攻击者可以把恶意意图拆散到多个对话轮次里，逐步诱导 Agent 走向危险行为，而任何单独一轮的输入看上去都无
From A2A Attacks to Envelope-Layer Defense: Red-Teaming Evaluation of LLM Agents and a Three-Layer Isomorphic Attack-Defense Model
随着 ACP、A2A 等 Agent 交互协议的普及，基于大模型的智能体正从单体工具调用走向多智能体协作，由此引入了新的安全威胁：在 A2A 场景下，来自远端 peer 的任务会被本地 Agent 默认视为合法请求，这为间接提示注入提供了天
ActionGuard: Tool Call Authorization under Poisoned Skills
本文关注 LLM 智能体在引入第三方 skill 后的安全风险。当前智能体普遍通过第三方 skill 扩展能力,这些 skill 会提供任务指令、脚本和工具使用流程。问题在于:即使 skill 本身看起来无害,只要其中被插入了恶意指令,一个
SEW: Style-Encoded Watermarking of LLM-Generated Code
该论文关注 LLM 生成代码的来源追踪(provenance)问题, 提出名为 SEW(Style-Encoded Watermarking)的代码水印方案。研究背景是: 现有代码水印大体分为两类路线——一类在模型生成过程中修改 token
Hiding in Plain Sight: Decoupling Pretext from Actuation for Skill Poisoning in LLM Agents
该论文研究 LLM Agent 的 Skill(可复用技能)供应链投毒问题。随着 Agent 越来越多地依赖可复用的 Skill 来完成多步骤复杂任务,Skill 内容成为一种关键攻击面:在用户请求本身完全无害的情况下,被投毒的 Skill
Deny Without Disabling: Authorization-Paired Evaluation and Control for Multi-Agent Systems
多智能体系统的能力来自共享证据、委派任务以及跨智能体组合信息。但同一过程也带来安全问题：某些贡献单独看是可接受的，组合在一起却可能共同促成被禁止的用途。若采取"一律阻断所有敏感动作"的策略，虽然能避免信息泄露，却会摧毁协作本身的意义，因此需
RAGScope: A Leakage-Controlled, Cost-Aware Evidence-Gating Protocol for RAG Hallucination Triage
本文研究的是检索增强生成（RAG）系统中的「幻觉分流」问题：如何在成本受限的前提下，对模型生成的答案进行廉价分类路由——低风险答案直接采纳、不确定的送人工复核、只有极少数高成本样本才交给强验证器（如大型 NLI 模型）处理。作者指出，现有评
Can Agents Trust Their Skills? Uncovering Unsafe Chains of Trust in Skill-Based LLM Agents
随着 LLM Agent 从"对话助手"演变为"可扩展执行体"，可安装的 Skill（由指令、代码与资源打包而成）成为其能力扩展的主要方式：Skill 一旦安装，便可在后续用户任务中被自动调用。这形成了一条信任链——用户把权限委托给 Age
Covert Assistance: Helpful LLM Agents Evade Oversight in Multi-Agent Systems
该论文关注多智能体系统进入高风险领域后，智能体可能绕过安全边界的问题。以往研究主要聚焦对抗性场景，即智能体被明确指示或因奖励机制驱动而进行隐蔽通信、规避监督。作者指出，良性智能体在没有任何对抗性激励的情况下，同样能够越过这些边界。 研究方
Approval Laundering: Systematizing Approval--Execution Binding Failures in AI Coding-Agent Harnesses
论文聚焦 AI 编码代理 harness（Claude Code、Codex CLI、Cursor 等）的一个未被充分检验的安全假设：人类批准的动作 A，与 harness 实际执行的动作 A' 是同一个动作，其中 A 由作用域授权或会话级