Selective Channel Restoration for Backdoored Vision-Language Models
视觉语言模型（VLM）具备强大的多模态理解与生成能力，已被广泛用于图文问答、检索、多模态 Agent 感知等场景。但其微调流程通常依赖第三方或不可信数据，攻击者可通过在微调数据中投毒，向模型植入后门：在正常输入上表现正常，一旦出现特定触发模
#LLM
共收录 2152 条相关情报。
← 返回所有主题Concealing LLM-Based Multi-Agent Topology via Phantom Structure Injection
该论文研究的是 LLM 多智能体系统（MAS）中的通信拓扑泄露与防护问题。在 MAS 中，智能体之间的通信拓扑决定了信息如何在各节点间流动，通常是系统设计的核心要素，往往承载着厂商专有的架构知识（例如哪些智能体互相协作、采用何种分层或中心化
Confidence-Guided Protocol IR for LLM-Aided Security Protocol Modeling
该论文研究如何让大语言模型（LLM）可靠地参与安全协议的形式化建模。背景是：安全协议（如认证与密钥交换协议）的安全性通常需要借助 Tamarin 这类形式化验证工具来证明，而把自然语言写的协议描述（RFC、规范文档）翻译成可验证的形式化模型
Backdoor Mitigation in Decentralized LLM Fine-Tuning
去中心化大语言模型（LLM）微调允许多个机构在不汇聚原始数据、也没有中心协调者的情况下，协作训练一个共享的 LLM。其典型流程是：每一轮中，每个节点在通信图上与邻居交换可训练的适配器（adapter），随后在本地对收到的适配器进行聚合更新。
Beyond Semantic Narrowing: Robust and Efficient LLM Watermarking with Hamming Neighborhoods
该论文关注大语言模型生成内容的溯源与标识问题。语义水印通过在句子级语义表示中嵌入可检测信号，相比词元级水印更能抵抗改写、翻译等水印去除攻击，因此成为 AI 内容溯源的重要方向。但作者指出，现有语义水印方法存在一个被忽视的结构性缺陷：它们把一
ToolFence: Fine-Grained Authorization for Secure Tool-Using LLM Agents
该论文关注工具调用型 LLM Agent 面临的一个根因性问题：在单一上下文窗口中，来自用户的「可信指令」与来自外部环境的「不可信观测」（网页、邮件、工具返回内容等）混杂在一起，因此间接提示注入可以借观测内容劫持 Agent 的推理，甚至反
When Tools Silently Lie: Evaluating and Mitigating Blind Compliance in Tool-Augmented Data Agents
该论文研究工具增强型数据智能体（tool-augmented data agents）中的一个关键可靠性缺陷：当工具调用在技术上“执行成功”时，其返回的证据仍可能是貌似合理却实际错误的，而智能体往往并不具备判断该证据应当被采信还是应当被交叉
VStress: Correlation-Aware Auditing and Adaptive Budget Allocation for Repeated Verifiers
该论文针对大模型推理中重复调用验证器（repeated verifier）的场景，指出仅当额外调用能带来条件信息增益时才有价值，否则会造成预算浪费甚至引入相关性偏差。作者提出 VStress——一种可审计的重放契约（auditable re
Practical Secrets Extraction against Black-box LLMs
研究背景: 大语言模型正越来越多地驱动 Codex、Claude Code 等自主编码智能体，而其训练语料可能包含公开仓库中泄露的凭据，或从私有开发产物中收集的机密，因此存在被模型记忆并在后续交互中泄露的风险。现有针对密钥提取的审计工作大多
SKILLLITE: Evidence-Guided Malicious Skill Auditing with Compact LLMs
这篇论文研究的是 LLM 智能体生态中的「技能（Agent Skill）」供应链安全问题。随着基于大模型的智能体承担越来越复杂的任务，Agent Skill 成为一种灵活的能力扩展机制：它把面向特定任务的指令、可执行组件以及辅助资源打包在一
Safer Content or Firmer Refusals? A Hybrid Perturbation Defense for Alignment under Harmful Fine-tuning
该论文研究"微调即服务"(Fine-tuning-as-a-service)场景下的有害微调(harmful fine-tuning)攻击面: 用户在对齐后的语言模型上用自有数据做微调时, 只需在大量良性样本中混入少量有害数据, 就足以削弱
Self-Evolving Defense: Continual Security Policy Learning for LLM Agents
本文关注 LLM 智能体（agent）在真实生产环境中的安全防护问题。随着大模型驱动的 agent 越来越多地获得访问敏感数据、调用外部工具、以及直接修改代码仓库的能力，其攻击面显著扩大，典型风险包括越狱（jailbreak）、提示注入（p
CyberPersistBench: Evaluating LLM-Based Cyber Attackers on Installation and Persistence
本文关注 LLM 驱动攻击者在大模型安全评测中的一个明显盲区：持久化能力。现有主流网络安全基准大多采用「单阶段」设计，一旦完成初始访问（initial access）即终止评测，因此在服务重启、主机重启等运维扰动下是否还能保住据点，从未被系
Know the Normal, Track the Attack: Context-Grounded and Stateful LLM Investigation over System Provenance
该论文关注基于溯源（provenance）的入侵检测系统（PIDS）在落地环节的一个核心痛点：PIDS 虽然能在系统审计流中识别可疑活动，但其输出通常只是孤立的异常点或子图，难以被转化为连贯、可读的攻击叙事，安全分析师仍需大量人工拼接。作者
FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance
该论文聚焦于受监管行业（尤其是消费金融）中大语言模型的安全失效问题：一些表面上完全无害的用户提问，可能触发模型的安全漏洞，使回答在合规政策边界上逼近甚至越界，带来监管与声誉风险。作者指出，现有自动化红队方法普遍在“攻击有效性”与“生成成本”
Quantization Enables Private Dense Retrieval against Malicious Service Providers
该论文研究 RAG(检索增强生成)中稠密检索的隐私与完整性问题。稠密检索通过比较查询与大规模语料库文档的稠密向量表示来召回最相关文档，是 RAG 的核心组件。在医疗、法律等隐私敏感场景中，检索通常外包给第三方服务：服务器既能看到用户明文查询
Audience-Bound Persistent Memory: Authorization Across the Memory Lifecycle
该论文研究个人语言智能体（personal language agent）跨私人与共享对话为所有者服务时的记忆授权问题：智能体可能在某一场合（audience）学到一条事实，之后在为另一场合组装上下文时把它放进模型输入，造成跨受众的信息泄露
TTMark: Pairwise Distortion-Free Watermarking Beyond Single-Token Entropy
该论文研究的是机器生成文本的「无失真水印」(distortion-free watermarking)技术。这类水印的核心承诺是:在不改变模型原始输出概率分布的前提下,把可检测的统计信号嵌入生成文本,从而实现对 AI 生成内容的可靠溯源与归
Render Before Reading: Visual Rendering as a Prompt Injection Defense
该论文研究大语言模型（LLM）面临的提示注入攻击，重点考察对抗内容的输入模态对攻击效果的影响，并提出一种免训练的防御方法。作者首先提出一个关键观察：多模态 LLM 在对抗性指令以纯文本形式出现时，比同一指令通过非文本通道（例如渲染成图像，或
Tracekit: Tamper-Evident Intent-Reasoning-Action Auditing for Autonomous Coding Agents
Tracekit 是面向自主编码代理的开源、无依赖审计系统，针对的核心问题是：编码代理会读取不可信文件、执行 shell 命令、派生带极少监督的子代理，但事后留存的往往只是可被随意编辑的日志，无法作为可信证据。Tracekit 为每个代理会