Understanding and Improving Model Editing for Secure Code Generation
本文针对大型语言模型（LLM）在代码生成任务中可能复现不安全训练模式、生成漏洞代码的问题，首次系统性地研究了模型编辑（model editing）作为一种模型级安全硬化机制的有效性。与先前主要聚焦于推理时加固（如CoSec）的方法不同，模型
#agent-security
共收录 1542 条相关情报。
← 返回所有主题When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems
本文针对大语言模型（LLM）作为高层规划器在具身多机器人系统中的应用，系统研究了多机器人协作中通信环节的安全威胁。以往研究主要关注单个机器人的安全性，对多机器人协同通信风险的理解不足，且现有工作仅针对去中心化多智能体系统（DMAS）架构进行
Retrieval-Constrained Policy Optimization for Attack Technique Extraction from Cyber Threat Intelligence
该论文提出了一种名为 TTP-R1 的两阶段框架，用于从网络威胁情报（CTI）文本中自动提取 MITRE ATT&CK 攻击技术。手动标注 ATT&CK 技术成本高昂且难以扩展，而 ATT&CK 分类体系包含数百种技术，单条 CTI 文本可
PGFUZZ: Policy-Guided Fuzzing for Robotic Vehicles.
该论文介绍了一种面向机器人的模糊测试框架 PGFUZZ（Policy-Guided Fuzzing）。研究背景在于，机器人车辆（如无人地面车辆、无人机等）依赖传感器和控制策略进行自主决策，而策略中存在的逻辑漏洞可能被攻击者利用。现有模糊测试
Predictive Response Optimization: Using Reinforcement Learning to Fight Online Social Network Abuse.
该论文提出了一种名为预测响应优化（Predictive Response Optimization, PRO）的框架，用于解决在线社交网络（OSN）中的滥用检测问题。传统研究几乎都将滥用检测视为一个二元分类问题，即训练一个高精度/高召回的分
Compositional Security for Reentrant Applications.
该论文聚焦于智能合约等可重入应用（Reentrant Applications）的组合安全（Compositional Security）问题。智能合约中反复出现的灾难性漏洞（如著名的重入攻击）表明，在编写需要与恶意代码组合运行的软件时，我
Data Privacy in Trigger-Action Systems.
本文研究触发-动作平台（Trigger-Action Platforms, TAPs）中的数据隐私问题。TAPs（如IFTTT、Zapier）允许用户将独立的Web服务或物联网设备连接起来，通过简单的“触发-计算-动作”规则实现自动化，例如
Is Private Learning Possible with Instance Encoding?
本论文研究了一个核心问题：能否通过“实例编码”（Instance Encoding）机制，在将训练数据输入普通（非私有）学习算法之前对其进行修改，从而让原本不具备隐私保护能力的学习算法获得隐私保障。作者首先形式化了实例编码的概念，并提出了两
Warmonger: Inflicting Denial-of-Service via Serverless Functions in the Cloud.
本文提出了一种名为 Warmonger 的新型攻击向量，针对云环境中的无服务器计算平台，可导致平台与外部内容服务器之间的拒绝服务。其核心原理是：无服务器平台通常为所有用户的函数共享同一组出口 IP 地址来访问外部内容服务器。恶意用户可以利用
Key Agreement for Decentralized Secure Group Messaging with Strong Security Guarantees.
该论文针对去中心化安全群组消息传递中的密钥协商问题展开研究。现有安全群组消息协议通常假设一个中心化网络模型，所有消息通过单一服务器路由，并且该服务器被信任为群组状态更新提供一致的全序关系。然而在去中心化网络中不存在这样的中央权威，因此需要重
Policy-Masked Private Experts: Auditable and Reversible Capability Access Control in Sparse MoE Models
该论文研究了一个新颖的系统安全问题：能否通过可信授权机制，在稀疏混合专家（MoE）大语言模型中控制新训练参数的可见性与可执行性，从而实现细粒度的能力访问控制。传统访问控制只限制模型输出行为，但所有请求仍可调用全部计算参数；本文提出了一种名为
CyberLLM: A Multi-Agent LLM Framework for Autonomous Detection and Guarded Response in Automotive Cybersecurity
本文提出 CyberLLM，一个面向软件定义汽车（SDV）的多智能体 LLM 编排框架，旨在自主检测漏洞并在运行时安全护栏约束下执行修复。随着 SDV 的兴起，汽车攻击面扩展至源代码、运行时日志和部署拓扑，但安全约束禁止自主代理无监督地行动
Model Confidence Under Answer-Preserving Attacks: An Informativeness-Manipulability Frontier
该论文研究视觉语言系统（VLM）在基于答案保留的攻击下置信度读数的鲁棒性。作者提出一个信息性-可操作性边界（informativeness-manipulability frontier），用于刻画攻击者在保持生成答案逐字节不变的前提下，能
StepJack: Benchmarking Computer-Use Agent Safety Against Multi-Step Indirect Prompt Injection
该论文针对计算机使用智能体（CUA）面临的一种新型安全威胁——多步间接提示注入攻击进行了系统研究。传统间接提示注入将恶意指令直接嵌入网页等环境数据中，而本文提出的多步攻击将单一恶意目标自动分解为多个看似无害的子步骤，并分布到智能体导航路径上
CyberForge: Verified Vulnerability Injection at Repository Level for Cybersecurity Agent Training
本文提出 CyberForge 框架，用于合成可执行的、仓库级别（repository-level）的网络安全训练数据，以解决前沿 LLM 智能体在真实软件漏洞发现与修补方面能力受限的问题。当前攻防不对称严重：攻击者只需找到一个可利用弱点即
Game Hopping in Lean
本文提出 HOPSCOTCH，一个基于 Lean 4 的框架，用于机械化计算可靠的、基于游戏的安全证明。安全定义被表达为有状态概率预言机之间的不可区分性，证明过程遵循标准的游戏跳跃范式。HOPSCOTCH 采用浅嵌入方式，预言机和归约都是普
Hardware Keystores for AI Agent Signing Workflows: A Zero-Trust MCP Enforcement Architecture
该论文针对 AI 代理在执行密码学操作（如 Git 提交签名、API 调用认证、证书签发）时私钥存储不安全的问题展开研究。当前常见做法将私钥存放在软件可访问的位置（明文文件、环境变量或容器内存），任何具备足够读权限的进程都能提取原始密钥材料
The Vulnerability With No CVE: Managing Persistent Gaps Between Mandate and Authority in AI Coding Agents
本文针对AI编程代理（AI coding agents）在安全治理中面临的一个现实困境：现有安全框架虽已识别出过度代理权限、过度授权、弱任务绑定授权以及代理控制不足等风险，也提供了约束、授权、观察、验证和响应等控制能力，但安全团队仍缺乏一种
An End-to-End Threat Model for the Quantum-as-a-Service Pipeline
该论文针对量子计算即服务（Quantum-as-a-Service, QaaS）平台（如 IBM Quantum、IonQ Cloud、Amazon Braket）的端到端威胁建模问题展开研究。随着云化量子计算日益普及，混合量子-经典算法（
ChainClaw: A Layered Agent Framework for Reliable On-Chain Execution
该论文提出 ChainClaw，一个面向区块链环境的分层智能体框架。作者指出，通用大语言模型智能体在工具增强任务上表现优异，但其隐含假设在区块链场景中不成立：链上执行是有状态的、对抗性的且经济上不可逆，导致三大关键差距——反应性（React