Patcher: Post-Hoc Patching of Backdoored Large Language Models
本文提出一种名为 Patcher 的后处理防御框架，用于修复被植入后门的大语言模型。大语言模型容易受到越狱后门攻击，攻击者通过污染安全对齐数据来嵌入隐藏触发器，从而绕过安全机制。现有防御方法通常需要全面的攻击信息或多个触发样本，但在实际中防
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题Echelon: Auditable Aggregate-Only Language-Model Adaptation Across Privacy Boundaries
该论文提出了一种名为Echelon的跨组织语言模型适应训练架构，旨在解决日益严峻的治理约束问题：在许多部署场景中，设备级模型状态（参数、激活值、优化器状态、每次更新）不能导出到管理边界之外。现有的分布式和联邦学习架构通常假设跨站模型交换，然
Large Byte Model: Teaching Language Models About Compiled Code
该论文提出首个能够直接处理编译后可执行文件原始字节的“大字节模型”（Large Byte Model），无需依赖反汇编或反编译等开销高昂且易出错的“提升”工具。传统大语言模型（LLM）无法理解原始字节序列，因此难以直接应用于底层恶意软件分析
Which Defense Closes Which Threat? Attributing OWASP-LLM-Top-10 Coverage and Its Brittleness Under Paraphrasing
本研究针对大型语言模型（LLM）应用中的多层级防御组合，提出了一种归因分析方法，以量化每种防御家族具体阻断哪些OWASP LLM Top 10威胁。现有基准测试仅报告单一聚合覆盖率，无法区分不同防御组件的贡献。本文在21个攻击代理基线基础上
MaskForge: Structure-Aware Adaptive Attacks for Jailbreaking Diffusion Large Language Models
本文提出了一种针对扩散大规模语言模型（dLLMs）的黑盒越狱攻击方法MaskForge。dLLMs通过迭代去噪部分掩码序列生成文本，其安全面与自回归LLMs不同：掩码令牌是原生输入，令牌基于置信度而非位置确定，因此有害内容可以通过填充（in
Ghost Tool Calls: Issue-Time Privacy for Speculative Agent Tools
本文研究工具增强型语言代理（tool-augmented language agents）中投机性工具调用（speculative tool calls）带来的隐私泄露问题。这类代理为了隐藏延迟，会在未确定最终执行分支前，提前向外部的工具服
SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents
本文提出SeClaw框架，旨在解决自主LLM智能体在状态化环境中面临的安全评估挑战。当前智能体可访问工具、文件、内存和外部服务，执行复杂工作流，但也引入新的安全风险。现有评估基准依赖人工构造任务，威胁覆盖有限，且仅关注最终结果而忽视导致不安
AgentRedBench: Dynamic Redteaming and Integration-Aware Defense for LLM Agents over SaaS Integrations
该论文提出了AgentRedBench，一个动态的LLM驱动的红队基准测试，专门针对通过SaaS集成（如Gmail、Salesforce、Jira等）使用工具调用的LLM智能体面临的间接提示注入威胁。现有基准测试覆盖的集成种类有限，且攻击载
SECUREVENT: Hybrid AI/ML Security Monitoring for Distributed Event-Based Systems
该论文提出了一种名为 SECUREVENT 的混合 AI/ML 安全监控架构，用于分布式事件驱动系统。随着物联网遥测、云原生微服务和安全运营管道等场景的普及，分布式事件系统（如发布/订阅服务）的松耦合和异步交付特性在提升可扩展性的同时，也扩
Fair Finetuning Mitigates Distribution Inference Attacks
本文研究了机器学习模型在敏感数据训练时可能泄露训练分布群体信息的问题，即分布推断攻击（DIA）。攻击者仅通过黑盒访问模型，即可推断出敏感的人口统计属性（如子群体比例）。现有防御手段如差分隐私和属性遗忘已有相关研究，但公平性约束与分布泄漏之间
Defenses & Enablers For Skill Injection Attacks on Terminal Based Agents
该论文研究了大语言模型（LLM）代理在依赖可复用技能（即描述任务特定流程的文档）时面临的新安全威胁，并探索了两种互补的防御方向。首先，作者评估了基于守护者的防御机制：动态守护者作为一个中间LLM代理，在运行时对技能文件的访问进行实时调解；静
Agent Operating Systems (AOS): Integrating Agentic Control Planes into, and Beyond, Traditional Operating Systems
本文提出Agent操作系统（AOS）的概念，以应对传统操作系统抽象（如进程、线程、系统调用、文件、权限等）对智能体AI工作负载的不足。传统OS面向确定性程序、显式控制流和人类发起的工作流，而智能体系统是长期存在、目标导向的实体，通过概率推理
ClawHub Security Signals: When VirusTotal, Static Analysis, and SkillSpector Disagree
该论文研究了AI代理技能（Agent Skills）的安全信号问题。代理技能是一种可重用的指令、工具、脚本、引用和工作流，它们扩展了AI代理的能力，但其安全边界既不同于模型安全也不同于传统包恶意软件检测。论文构建了ClawHub Secur
On the Evaluation of Spiking Neural Network Configurations for Network Intrusion Detection
本文系统评估了脉冲神经网络（SNN）的不同配置（神经元模型与脉冲编码方案）在网络入侵检测中的性能。背景：传统深度学习模型计算需求高，难以部署到边缘设备和神经形态硬件，而SNN具有低功耗、事件驱动的特性，是潜在替代方案。但SNN的神经元模型和
Needles at Scale: LLM-Assisted Target Selection for Windows Vulnerability Research
现代操作系统的攻击面如同一个巨大的干草堆：包含数千个已签名的二进制文件和数百万个函数，其中绝大多数与任何特定漏洞无关。人类分析师或LLM代理必须先挑选出值得阅读的函数，然后才能进行分析。在整个操作系统范围内，目标选择（而非分析）成为了制约瓶
A New Framework for Cybersecurity Refusals in AI Agents
该论文提出了首个针对AI代理在网络安全场景中设定拒绝边界的框架。背景是，基于LLM的代理系统（agentic scaffolds）在完成复杂、长期任务方面表现显著提升，但也带来了风险放大，尤其在网络安全领域。现有基准主要衡量代理执行攻击任务
Inference Cost Attacks for Retrieval-Augmented Large Language Models
该论文研究了检索增强生成（RAG）增强的大型语言模型（LLM）系统面临的推理成本攻击（ICA）问题。RAG系统通过多阶段流水线动态检索并合成外部知识，虽然提升了性能，但也带来了高昂的推理成本。现有ICA攻击通常假设可以直接操纵提示，这在实践
DiscourseFlip: An Oblique Discourse-Level Opinion Manipulation Attack against Black-box Retrieval-Augmented Generation
本文提出了一种针对检索增强生成（RAG）系统的新型攻击范式——话语级意见操纵。RAG系统通过结合外部语料库来增强大语言模型的回答，但这也引入了检索内容投毒的安全风险。现有攻击大多聚焦于单个查询或狭窄主题的局部查询集，实际影响有限且易于察觉。
AMP: A Vendor-Neutral Wire Format for Agent Memory Operations
该论文提出了一个名为 memorywire 的供应商中立的线格式（wire format），用于代理内存操作。当前多种代理内存框架（如 mem0、Letta/MemGPT、Cognee、Zep/Graphiti、MemoryOS、MemTe
D-Judge: Disrupting Multi-Turn Jailbreaks using Semantics-Preserving Output Rewriting
多轮越狱攻击（Multi-turn Jailbreak Attacks）利用辅助评判模型（Judge Model）的反馈信号来迭代优化对抗性提示，逐步突破大语言模型（LLM）的安全防护。现有防御措施主要针对单轮响应或最终输出进行检测与阻断，