AI Agents Enable Adaptive Computer Worms
该论文提出了一种基于人工智能（AI）代理的新型自适应计算机蠕虫。传统蠕虫（如WannaCry）利用固定漏洞进行传播，可通过打补丁阻断。而本文展示的AI蠕虫能够在感染每台机器后，利用被入侵设备上的开源大语言模型（LLM）进行推理，针对每个新目
#agent-security
共收录 1542 条相关情报。
← 返回所有主题From Control Boundary to Insurance Claim: Reconstructing AI-Mediated Losses Through the CER Framework
该论文聚焦于人工智能（AI）系统中产生的损失如何进行准确重建与保险索赔。当前保险理赔主要依赖事件重建，但AI系统（尤其是生成式AI和智能体系统）具有状态依赖性，其行为随推理、检索、工具调用和自主行动而动态变化，因此需要状态重建而非简单的事件
Overlaying Governance: A Compositional Authorization Framework for Delegation and Scope in Agentic AI
随着AI系统从被动模型演变为能够自主发起行动、协作和委托任务的自主智能体，传统软件系统的边界变得模糊。传统的授权和委托框架基于固定的主体、显式请求和静态范围，不足以治理智能体系统。智能体AI需要更丰富的授权语义：智能体必须能够继承和委托权限
Learn from Your Mistakes: Tree-like Self-Play for Secure Code LLMs
本文提出了一种名为 Tree-like Self-Play (TSP) 的框架，旨在解决大型语言模型（LLM）在代码生成中易重现训练数据中安全漏洞的问题。现有的对齐技术如监督微调（SFT）和强化学习（RL）通常对整个序列进行粗粒度优化，无法
Selective Token-Level Cryptographic Redaction for Privacy-Preserving Clinical Deployment of Large Language Models
本文针对大型语言模型（LLM）在临床部署中因传输原始敏感健康信息而导致的隐私泄漏风险，提出了一个名为HERALD（Healthcare Encryption & Redaction via Adaptive Linguistic Decom
RUBAS: Rubric-Based Reinforcement Learning for Agent Safety
随着大语言模型（LLM）发展为能够使用工具（tool-enabled）的智能代理（agent），安全问题从单纯的文本生成扩展到实际执行环节，带来了新的挑战。现有的对齐方法（如基于拒绝信号的强化学习或静态监督）难以在安全性和工具执行有用性之间
PsychoPass: Geometric Profiling of Multi-Turn Adversarial LLM Conversations
大型语言模型（LLM）的多轮越狱攻击揭示了当前防护机制的缺陷：它们仅在单个对话轮次上运行，而攻击却作为跨对话的轨迹展开。本文提出从内容转向动态，将对话建模为表示空间中的路径，并探究对抗意图是否在对话早期就被编码在几何结构中。作者引入Psyc
SkillGuard: A Permission Framework for Agent Skills
本文提出了一种名为 SkillGuard 的权限框架，旨在解决大型语言模型（LLM）代理技能生态系统中日益严重的安全与隐私问题。随着 LLM 代理通过可重用的技能（包含指令、脚本、工具绑定和上下文依赖）扩展功能，当前技能生态系统主要依赖基于
Patcher: Post-Hoc Patching of Backdoored Large Language Models
本文提出一种名为 Patcher 的后处理防御框架，用于修复被植入后门的大语言模型。大语言模型容易受到越狱后门攻击，攻击者通过污染安全对齐数据来嵌入隐藏触发器，从而绕过安全机制。现有防御方法通常需要全面的攻击信息或多个触发样本，但在实际中防
Echelon: Auditable Aggregate-Only Language-Model Adaptation Across Privacy Boundaries
该论文提出了一种名为Echelon的跨组织语言模型适应训练架构，旨在解决日益严峻的治理约束问题：在许多部署场景中，设备级模型状态（参数、激活值、优化器状态、每次更新）不能导出到管理边界之外。现有的分布式和联邦学习架构通常假设跨站模型交换，然
Large Byte Model: Teaching Language Models About Compiled Code
该论文提出首个能够直接处理编译后可执行文件原始字节的“大字节模型”（Large Byte Model），无需依赖反汇编或反编译等开销高昂且易出错的“提升”工具。传统大语言模型（LLM）无法理解原始字节序列，因此难以直接应用于底层恶意软件分析
Ghost Tool Calls: Issue-Time Privacy for Speculative Agent Tools
本文研究工具增强型语言代理（tool-augmented language agents）中投机性工具调用（speculative tool calls）带来的隐私泄露问题。这类代理为了隐藏延迟，会在未确定最终执行分支前，提前向外部的工具服
SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents
本文提出SeClaw框架，旨在解决自主LLM智能体在状态化环境中面临的安全评估挑战。当前智能体可访问工具、文件、内存和外部服务，执行复杂工作流，但也引入新的安全风险。现有评估基准依赖人工构造任务，威胁覆盖有限，且仅关注最终结果而忽视导致不安
AgentRedBench: Dynamic Redteaming and Integration-Aware Defense for LLM Agents over SaaS Integrations
该论文提出了AgentRedBench，一个动态的LLM驱动的红队基准测试，专门针对通过SaaS集成（如Gmail、Salesforce、Jira等）使用工具调用的LLM智能体面临的间接提示注入威胁。现有基准测试覆盖的集成种类有限，且攻击载
PyFEX: Uncovering Evasive Python-based Threats via Resilient and Exhaustive Path Exploration
本文提出 PyFEX，一种针对 Python 恶意软件的弹性强制执行引擎。随着 Python 生态系统快速扩张，攻击者一方面通过 PyPI 投毒进行供应链攻击，另一方面将恶意 Python 源代码编译为跨平台可执行文件，以逃避传统检测。现有
Cross-Vendor Sola ISPM Benchmark: Evaluating Agentic AI for Federated Identity Security Reasoning
本文针对多云和SaaS环境下身份安全态势管理（ISPM）面临的根本性跨供应商挑战，提出了Cross-Vendor Sola ISPM Benchmark。现有评估仅关注单一平台，无法衡量AI代理在跨系统边界进行推理的能力。该基准包含50个基
What You Approve Is What Executes: Consent Integrity for Black-Box LLM Agents
本研究聚焦于黑盒大语言模型（LLM）代理的审批流程安全。当前编码代理将高风险操作（如执行命令）置于人类审批之后，但审批对话框由代理自身生成：人类批准的是代理撰写的摘要。Lies-in-the-Loop (LITL) 攻击表明，被攻陷的代理可
Benign Inputs, Harmful Outputs: Cross-Modal Jailbreaking via Distributed Semantic Recomposition
该论文提出了一种名为分布式语义重组（DSR）的新型跨模态越狱攻击框架，旨在绕过多模态大语言模型（MLLM）的安全防护。现有安全措施主要针对单模态文本输入进行拦截，但跨模态攻击可能通过图像等非文本载体隐藏恶意意图。DSR的核心思想是将有害意图
EarArray: Defending against DolphinAttack via Acoustic Attenuation.
本文关注针对语音助手的 DolphinAttack（不可听语音命令攻击），该攻击将可听语音调制到超声波上，从而无声地注入恶意命令，例如控制智能门锁或音箱。由于攻击利用了超声波的人耳不可听特性，且不需要物理接触，传统方法难以防御。现有防御方案
CoreUnlearn: Rethinking Concept Unlearning through Disentangled Component-Level Erasure in Text-guided Diffusion Models
本文针对文本引导扩散模型（text-guided diffusion models）在图像合成中面临的隐私泄露和有害内容生成等伦理问题，提出了一种新的概念遗忘（concept unlearning）方法——CoreUnlearn。现有方法通