SKILLLITE: Evidence-Guided Malicious Skill Auditing with Compact LLMs
这篇论文研究的是 LLM 智能体生态中的「技能（Agent Skill）」供应链安全问题。随着基于大模型的智能体承担越来越复杂的任务，Agent Skill 成为一种灵活的能力扩展机制：它把面向特定任务的指令、可执行组件以及辅助资源打包在一
2026-09-30 归档
今日共收录 1598 条安全情报，包含 728 个 CVE，467 篇安全通告，以及 100 篇研究论文。
← 返回归档列表CoSec: Benchmarking Agent Security in Communities
该论文关注的是 LLM agent 在持久化协作环境中运行时所面临的隐私与授权风险。这类环境通常包含多个用户、社区（community）、长期记忆、共享文件以及各类工具，而社区边界并非静态：成员变更、角色调整、成员构成变化和参与者关系演化都
AutoMark: Enabling Autoresearch to Discover Better LLM Watermarks
该论文《AutoMark: Enabling Autoresearch to Discover Better LLM Watermarks》研究如何让自动化研究代理（autoresearch agents）自主发现新的、更优的大语言模型（L
Deep Learning Latency Attacks and Defenses: A Cross-Domain Survey of Availability Threats
该综述论文系统梳理了深度学习领域中长期被忽视的「可用性」威胁——延迟攻击（latency attack，亦称能耗-延迟攻击）。作者指出，对抗机器学习研究以往几乎集中在完整性（误分类、后门等），而可用性攻击通过在推理阶段额外增加计算量、能耗或
Distillation Defenses Easily Break After Reinforcement Learning
该论文研究了针对大语言模型蒸馏攻击的防御措施在攻击者后续进行强化学习训练时失效的问题。蒸馏攻击指攻击者系统性地收集闭源前沿模型的推理轨迹，并以此训练自己的模型，从而以低成本复制其推理能力。现有防御通常只在蒸馏完成后立即评估，隐含假设攻击者不
Before Acting, Change the State: Prospective State Intervention for Web Agents under Deceptive Interfaces
该论文关注 LLM 驱动的 Web 智能体（Web Agent）在真实网页环境中执行用户任务时的安全性问题。作者指出，现有的防御手段主要集中在「行为层」——即对智能体即将执行的动作进行拦截、引导或重新规划，但这类方法忽略了一种独立的失效模式
Controlled Decoding Attacks on Black-Box LLMs
该论文关注大模型安全对齐在解码阶段的脆弱性: 操纵生成过程中的下一个 token 概率分布可以绕过对齐约束。但已有方法普遍依赖模型权重或数值化的 token 概率(logprobs), 因此对只返回采样文本的黑盒接口完全无效。作者尝试从采样
FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance
该论文聚焦于受监管行业（尤其是消费金融）中大语言模型的安全失效问题：一些表面上完全无害的用户提问，可能触发模型的安全漏洞，使回答在合规政策边界上逼近甚至越界，带来监管与声誉风险。作者指出，现有自动化红队方法普遍在“攻击有效性”与“生成成本”
Trajectory-Level Security Debt in LLM Coding Agents
该论文关注LLM编码智能体（coding agent）在解决任务过程中产生的安全债务问题。作者指出，编码智能体在提交最终方案前会经过数百个中间代码状态，而现有评测通常只看最终产物，导致安全发现（security findings）随轨迹演化
JevVibe: Efficient Classification-Guided Secure Code Generation
该论文关注大语言模型代码生成中的安全弱点问题：模型可以产出功能正确、但隐含安全缺陷的代码，因此业界倾向于采用「先诊断弱点类型、再决定修复方式」的两阶段修复流水线。Common Weakness Enumeration（CWE）为这类诊断提供
JEV as a Judge for Agent Trace Security: An Empirical Comparison with Generative LLM Judges
该论文研究的是「工具型智能体（tool-using agent）行为轨迹的安全判定」这一评测环节本身的可选方案问题。背景是：对会调用外部工具的智能体做安全评估，必须结合上下文判断每一步动作是否构成风险；当前主流做法是让生成式大模型充当裁判（
AuxMark: Defending Against Unauthorized Agent Distillation via Auxiliary Behavioral Watermarking
该论文关注大语言模型智能体（LLM Agent）面临的非法蒸馏（模型窃取）问题：Agent 通过多步交互与工具调用获得复杂能力，但其完整交互轨迹（trajectory）可能被第三方收集，用来训练能力相近的“学生 Agent”，从而绕过授权与
How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models
该论文关注大语言模型（LLM）部署中的安全对齐问题：当用户输入包含有害意图时，模型可能给出不安全回答。作者指出，现有的激活引导（activation steering）方法虽然在推理阶段通过修改模型内部隐状态来提升安全性、且无需更新参数，但
Confidence-Guided Protocol IR for LLM-Aided Security Protocol Modeling
该论文研究如何让大语言模型（LLM）可靠地参与安全协议的形式化建模。背景是：安全协议（如认证与密钥交换协议）的安全性通常需要借助 Tamarin 这类形式化验证工具来证明，而把自然语言写的协议描述（RFC、规范文档）翻译成可验证的形式化模型
CyberPersistBench: Evaluating LLM-Based Cyber Attackers on Installation and Persistence
本文关注 LLM 驱动攻击者在大模型安全评测中的一个明显盲区：持久化能力。现有主流网络安全基准大多采用「单阶段」设计，一旦完成初始访问（initial access）即终止评测，因此在服务重启、主机重启等运维扰动下是否还能保住据点，从未被系
INTCC: A Framework for Interactive Confidential Computing
该论文针对机密计算（Confidential Computing）在交互式开发流程中的结构性矛盾提出了新的系统范式。传统上，机密计算依赖 AMD SEV-SNP、Intel TDX 等可信执行环境（TEE）来保护"使用中数据"的机密性与完整
LLM-Assisted Automatic Security Proofs for Cryptographic Protocols: How Far Are We?
本文针对一个此前缺乏系统认识的问题展开研究：大语言模型（LLM）在密码协议的符号化验证（symbolic protocol verification）中究竟能起到多大作用。作者指出，LLM 已在软件工程与安全分析任务中表现出较强潜力，但其在
Planarian: Managing Agent State with Statepoints
该论文针对 LLM 智能体在执行复杂任务时不断修改文件、调用本地工具并与远程服务交互，从而在本地环境与远程服务两侧产生大量状态变更的问题。当前智能体框架缺少统一抽象，用户与智能体只能显式管理这些变更，无论是回退探索性操作还是从错误动作中恢复
Beyond Semantic Narrowing: Robust and Efficient LLM Watermarking with Hamming Neighborhoods
该论文关注大语言模型生成内容的溯源与标识问题。语义水印通过在句子级语义表示中嵌入可检测信号，相比词元级水印更能抵抗改写、翻译等水印去除攻击，因此成为 AI 内容溯源的重要方向。但作者指出，现有语义水印方法存在一个被忽视的结构性缺陷：它们把一
Why Backdooring Neural Networks is so Easy?
该论文研究的是神经网络后门攻击中的一个基础理论问题: 攻击者到底需要多大的预算才能构造既成功又隐蔽的后门。作者把攻击者预算拆解为两个量: 训练数据中的投毒比例 π 与触发器强度 α。研究动机来自近期的实证观察: 对大语言模型投毒时, 即使干