AgenticRepair: Multi-Faceted Program Context Engineering for Agentic Vulnerability Repair
本文提出了一种名为 AgenticRepair 的智能体漏洞修复框架，旨在自动化地从漏洞报告出发生成补丁，减少安全工程师的人工修复时间。作者指出，与通用程序修复相比，漏洞修复需要更丰富的程序上下文，而现有智能体方法未能充分利用这些上下文。具
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题MOSAIC: Masked Outsourcing of Secure AI Computations
该论文提出了一种名为MOSAIC的方法，用于解决安全且高效地外包AI计算的问题。具体场景是：一个可信但计算能力较弱的客户端拥有输入数据和模型参数，希望将推理计算外包给一个功能强大的不可信服务器，同时要求服务器无法获知输入数据和模型中的任何敏
Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory
本文研究大型语言模型（LLM）智能体的长期记忆机制引入的新安全风险：记忆来源清洗（memory provenance laundering）。在LLM智能体中，长期记忆允许智能体重用之前的偏好和工作流程，但同时也将不可信的观测内容转化为持久
TextCloak: Thwarting Unauthorized LLM Exploitation via RL-Driven Unlearnable Text
本文针对大语言模型（LLM）时代中未经授权数据利用与隐私泄露问题，提出一种名为 TextCloak 的防御框架。现有文本不可学习样本（UEs）方法主要面向情感分析等判别式分类任务，通过注入类别特定的语言线索来破坏模型训练效果，但在 LLM
Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
该论文是一篇关于基于世界模型的具身人工智能（Embodied AI）安全性的综述。世界模型为具身智能体提供预测核心：将观测压缩为状态，模拟基于行动的未来，并支持超越反应式控制的规划。然而，这一预测层引入了新的安全边界——攻击可以从数据、传感
Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
本文针对现代基于大模型的多模态内容审核系统展开鲁棒性研究。传统内容审核分类器通常依赖任务特定模型，策略覆盖有限且缺乏上下文理解；而新近商业化的多模态审核 API 基于大型基础模型，宣称能提供更广泛、更强大的安全过滤能力。研究团队对三家成熟商
Temporal Poisoning: Clean-Label Backdoors via Event Redistribution in SNNs
本文首次在脉冲神经网络（SNN）和神经形态事件数据上提出并评估了干净标签后门攻击。以往针对 SNN 的后门攻击大多假设脏标签设置，即攻击者将带有触发器的训练样本重新标记为目标类别。本文则研究干净标签时序毒化攻击：仅对目标类别的训练数据流施加
Driving up Inference Energy on SNNs: Per-Sample and Universal Sponge Attacks
脉冲神经网络（SNN）通过稀疏的二进制尖峰事件而非密集的激活值进行通信，这使得脉冲神经网络能够在神经形态硬件上实现高能效推理，从而非常适合用于始终在线的电池供电边缘系统。本文首次提出了针对原生事件驱动二进制输入的海绵攻击（Sponge At
Safeguards Based on Copyable Context Cannot Provide Reliable Safety for LLMs
这篇论文从底层机制上指出了当前大语言模型安全护栏（safeguards）的一个结构性缺陷：模型在尚未看到回答将被如何使用之前，就必须决定是否回答。对于双用途（dual-use）任务，同一个回答既能帮助授权专业人员，也可能被攻击者利用；而攻击
Revisiting the Adversarial Robustness of Graph-Based Traffic Forecasting
本文针对智能交通系统中基于图神经网络（GNN）的交通流量预测模型，重新审视了其对抗鲁棒性。作者认为先前研究采用的威胁模型不切实际，如假设攻击者拥有完整模型知识或进行全局非目标扰动，因此对攻击和防御的评估均有偏差。实际攻击者通常只能利用有限知
ThreatForest: Multi-Agent Attack Tree Generation with Pluggable TTP Framework Mapping
该论文提出 ThreatForest，一个面向云原生架构威胁建模的多智能体系统。传统威胁建模依赖人工分析源代码仓库，速度慢且需要稀缺的安全专家。ThreatForest 将威胁建模分解为多阶段智能体流水线，包括仓库分析、上下文精炼、威胁生成
RoguePrompt: Dual-Layer Encoding for Self-Reconstruction to Circumvent LLM Moderation
本文针对大型语言模型（LLM）在安全审核机制下仍可被提示词越狱（jailbreak）的问题，提出了一种名为 RoguePrompt 的多阶段攻击流水线。研究背景是：尽管主流 LLM 部署了内容审核与安全控制，攻击者仍可通过精心构造的提示词绕
On-Policy Distillation for LLM Safety: A Routing Approach to Template-Robust Realignment
本文针对大型语言模型（LLM）在微调过程中存在的安全漏洞展开研究。作者指出，恶意数据提供者可以将有害行为嵌入下游训练语料，导致模型在保留专业技能的同时，按照要求违背人类价值观。现有的安全重对齐防御通常面临三大局限：一是容易造成模型对专业技能
MemSecBench: Tracking Agent Memory Poisoning from Persistence to Consequence and Repair
本文针对大语言模型驱动的智能体（Agent）中记忆系统存在的安全风险，提出了一款新型任务驱动型基准 MemSecBench。在现有 Agent 应用中，记忆系统使智能体能够存储并复用过往交互信息，但这也为攻击者创造了机会：精心构造的恶意指令
What Does It Take to Detect an AI Agent? Minimal Feature Sets for Behavioral Detection under Browser Automation
该论文针对大规模部署的机器人检测器将流量视为二元分类（人类或机器人）的假设提出了质疑。随着AI代理通过浏览器自动化工具（如Playwright）浏览网页，这类流量既不属于人类也不属于传统机器人，二元分类器在结构上无法表达这种第三类流量。论文
Defending Against Backdoor Attacks via Alignment Checking in Model-Contrastive Federated Learning
联邦学习（Federated Learning, FL）在边缘计算场景中因分布式训练特性而容易遭受后门攻击。现有防御方法往往忽略了两个关键因素：一是良性本地更新之间因统计异质性（statistical heterogeneity）而产生的偏
SecRespond: Benchmarking AI Agents for Real-World Post-Compromise Incident Response
本文提出了 SecRespond，据作者称这是首个用于评估大语言模型（LLM）智能体在后渗透（post-compromise）事件响应工作流中能力的基准测试。当前大多数网络安全基准测试聚焦于攻击发生前的“预渗透”场景，智能体被放置在一个干净
FARI: Robust One-Step Inversion for Watermarking in Diffusion Models
本文提出了一种名为 FARI（Fast Asymmetric Robust Inversion）的一步反演框架，用于扩散模型图像水印的鲁棒提取。传统基于反演的水印方法在验证扩散生成图像时，反演过程既慢又容易出错。现有方法过度优化内部截断误差
FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs
大型语言模型（LLM）智能体在动态环境中自主执行复杂操作，将语义推理与系统操作交织在一起。传统的静态工具级权限在这种环境下显得力不从心，因为安全授权高度依赖上下文，并受运行时状态和数据流变化的影响。为此，本文提出 FAVA（Formal A
Graph Is the Verifier: Agentic Reinforcement Learning for Interprocedural Vulnerability Detection
本文提出 VulAgentRL，一个面向跨函数（过程间）漏洞检测的智能体强化学习框架。现实中的漏洞往往涉及多个函数，但现有基于学习的检测器大多孤立地分析每个函数。作者在真实 CVE 样本上统计发现，71.7% 的脆弱函数需要依赖函数外部的证