MESS: Fast and Private Semantic Search on Multi-Graph HNSW
本文提出 MESS，一个面向语义搜索的隐私保护系统，旨在同时满足隐私性、准确性和效率三个目标。语义搜索系统将数据映射到高维向量空间，并通过近似最近邻（ANN）检索实现相似数据查询；然而，当系统部署于可信云提供商时，数据与查询本身缺乏隐私保护
#agent-security
共收录 1542 条相关情报。
← 返回所有主题YazSes: An Offline, Privacy-First, Cross-Platform Hold-to-Talk Voice-Dictation System
该论文提出并实现了一个名为 YazSes 的离线、隐私优先、跨平台的按住说话（hold-to-talk）语音听写系统。研究背景是：云端语音听写服务虽然准确率高，但需要将用户语音流式传输到远程服务器，这在隐私敏感的职业场景以及离线或气隙（ai
TextCloak: Thwarting Unauthorized LLM Exploitation via RL-Driven Unlearnable Text
本文针对大语言模型（LLM）时代中未经授权数据利用与隐私泄露问题，提出一种名为 TextCloak 的防御框架。现有文本不可学习样本（UEs）方法主要面向情感分析等判别式分类任务，通过注入类别特定的语言线索来破坏模型训练效果，但在 LLM
Emerging Challenges in Threat Modeling for GenAI-Augmented Systems: A View from the Trenches
该论文针对生成式人工智能（GenAI）日益融入软件系统的背景下，传统威胁建模方法（如STRIDE）在评估GenAI特有风险时显得不足的问题，开展了一项面向中小型企业（SME）的探索性评估研究。研究首先通过快速文献综述筛选出多种GenAI感知
Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
该论文是一篇关于基于世界模型的具身人工智能（Embodied AI）安全性的综述。世界模型为具身智能体提供预测核心：将观测压缩为状态，模拟基于行动的未来，并支持超越反应式控制的规划。然而，这一预测层引入了新的安全边界——攻击可以从数据、传感
Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
本文针对现代基于大模型的多模态内容审核系统展开鲁棒性研究。传统内容审核分类器通常依赖任务特定模型，策略覆盖有限且缺乏上下文理解；而新近商业化的多模态审核 API 基于大型基础模型，宣称能提供更广泛、更强大的安全过滤能力。研究团队对三家成熟商
Piggybacking on Perception: Stealthy Concurrent Audio Prompt Injections against Multimodal LLM Agents
本文研究多模态大语言模型智能体在连续音频交互场景下面临的新型安全威胁——并发音频提示注入攻击。随着以LLM驱动的多模态智能体通过语音与用户进行自然交互并自主执行任务，音频输入中不可避免地包含环境噪声，这为攻击者提供了可乘之机。与针对语音设备
Agent Harness Distillation: Inference-Time Harness Extraction and Exploitation in Autonomous Multi-Agent Systems
本文研究了基于大型语言模型（LLM）的自主多智能体系统（AMAS）在推理时（inference-time）所依赖的“智能体编排框架”（harness）的知识产权泄露风险。AMAS 系统（例如 Hermes）在推理过程中动态协调多个 LLM
AnchorMark: Robust Diffusion Watermarking via Latent-Space Rotation Synchrony
本文提出了一种名为 AnchorMark 的鲁棒扩散模型水印方法，针对基于反转（inversion-based）的水印嵌入框架在复合有损后处理（尤其是旋转攻击）下鲁棒性不足的问题。现有基于反转的水印方法将水印有效载荷直接嵌入生成过程，避免了
ThreatForest: Multi-Agent Attack Tree Generation with Pluggable TTP Framework Mapping
该论文提出 ThreatForest，一个面向云原生架构威胁建模的多智能体系统。传统威胁建模依赖人工分析源代码仓库，速度慢且需要稀缺的安全专家。ThreatForest 将威胁建模分解为多阶段智能体流水线，包括仓库分析、上下文精炼、威胁生成
From Backlog Items to Security Guidance: Towards Continuous Security Compliance
本文针对受监管领域的持续软件工程中安全需求难以显式化的问题。在敏捷开发中，产品待办项（backlog items）通常以简短自由文本描述，工程师难以从中推断安全相关性，也缺乏及时的安全需求指引。为此，作者提出一种基于NLP的待办项富集系统，
MemSecBench: Tracking Agent Memory Poisoning from Persistence to Consequence and Repair
本文针对大语言模型驱动的智能体（Agent）中记忆系统存在的安全风险，提出了一款新型任务驱动型基准 MemSecBench。在现有 Agent 应用中，记忆系统使智能体能够存储并复用过往交互信息，但这也为攻击者创造了机会：精心构造的恶意指令
HoF-Bench: Rediscovering Real AI-Discovered CVEs Without Frontier Models
本文介绍 HoF-Bench，一个由真实 AI 发现的 CVE 组成的基准测试集，旨在评估基于大语言模型（LLM）的漏洞分析器。背景：已有 LLM 分析器（如 AISLE 的 analyzer）在成熟开源项目中发现了超过 280 个真实 C
AgentSnare: Learning to Delay, Divert, and Defuse Autonomous Penetration Agents
该论文针对大语言模型（LLM）驱动的自主渗透测试代理提出了一种新型动态欺骗防御系统 AgentSnare。LLM 代理通过“观察-行动”循环与工具交互：代理选择动作，工具返回观察结果，代理再基于观察继续决策。这种依赖关系使得防御方可以注入欺
Open Security Benchmark: Towards Autonomous Enterprise Cyber Defense
该论文聚焦于企业自主网络防御中的关键挑战：如何信任由智能体（Agentic AI）完成的安全态势感知、评估与决策。作者指出，当前企业安全环境是私有的、跨厂商且高度关联的，没有一个公开、可查询的共享环境能用于端到端评估此类智能体，这构成了“环
InkShield: Writing Style Protection Against Unauthorized Handwriting Mimicry
本文提出了一种名为 InkShield 的主动式书写风格防御方法，旨在防止未经授权的手写体模仿攻击。近年来，手写文本生成器能够根据公开可获取的参考样本复制特定作者的书写风格，这可能导致文档伪造和身份盗用等风险。例如，攻击者可利用公开的手写笔
Defending Against Backdoor Attacks via Alignment Checking in Model-Contrastive Federated Learning
联邦学习（Federated Learning, FL）在边缘计算场景中因分布式训练特性而容易遭受后门攻击。现有防御方法往往忽略了两个关键因素：一是良性本地更新之间因统计异质性（statistical heterogeneity）而产生的偏
ToxScreen: Detecting Whether an LLM Has Been Poisoned
该论文针对大语言模型（LLM）在关键领域部署时面临的数据投毒后门攻击问题展开研究。攻击者可能通过污染训练数据植入后门触发器，使得模型在推理阶段遇到特定输入时被隐蔽地操控行为。作者聚焦于防御者在现实约束下的触发器恢复能力：仅拥有模型的白盒权重
Before Agents Speak: Pre-hoc Failure Risk Inference in Multi-Agent Systems
该论文聚焦于基于大语言模型的多智能体系统（MAS）在协作推理与决策中面临的新型系统性风险：局部幻觉可能沿着智能体之间的通信链路传播，在交互中被放大，最终触发级联故障。现有防御手段大多属于事后（post-hoc）范式，即只有在不安全行为已经出
Forecasting Trajectory-Level Safety Risks in Black-Box Multi-Turn Interactions
随着大语言模型（LLM）从独立助手演化为自主智能体，其安全挑战已从单点风险转向长时序轨迹中的风险演化。在多轮交互中，恶意意图可以被拆解到多个看似无害的轮次，再通过交互轨迹逐步重组，最终引发安全故障。现有防御手段大多是反应式的，只能检测已经发