Quantization Enables Private Dense Retrieval against Malicious Service Providers
该论文研究 RAG(检索增强生成)中稠密检索的隐私与完整性问题。稠密检索通过比较查询与大规模语料库文档的稠密向量表示来召回最相关文档，是 RAG 的核心组件。在医疗、法律等隐私敏感场景中，检索通常外包给第三方服务：服务器既能看到用户明文查询
#cs.AI
共收录 1652 条相关情报。
← 返回所有主题Audience-Bound Persistent Memory: Authorization Across the Memory Lifecycle
该论文研究个人语言智能体（personal language agent）跨私人与共享对话为所有者服务时的记忆授权问题：智能体可能在某一场合（audience）学到一条事实，之后在为另一场合组装上下文时把它放进模型输入，造成跨受众的信息泄露
Calibrating One-Round Membership Inference with Neighbors
该论文研究成员推断攻击(Membership Inference, MI)在“单轮(one-round)”设定下的信号校准问题。当前最先进的 MI 方法依赖参考模型(在排除目标样本的数据上训练的辅助模型)对每个样本单独进行逐样本校准,从而得
DecoyTrace: Toxic Decoys for Active Defense in Decentralized Federated Learning
该论文针对去中心化联邦学习（DFL, Decentralized Federated Learning）场景下防御能力不足的问题，提出了名为 DecoyTrace 的主动式网络欺骗防御方案。DFL 取消了中心聚合服务器，虽然避免了单点故障，
An Empirical Study and Assessment of EU AI Act Compliance Checkers
该论文对欧盟《人工智能法案》(EU AI Act) 的自动化合规检查工具 (AI Act Compliance Checkers, AIACCs) 开展了首次系统性实证研究与评估。研究背景是：EU AI Act 对开发、部署或集成 AI 系
Adversarial Debiasing of Machine Learning Models for Enhanced Network Security against DDoS Attacks
该论文针对分布式拒绝服务(DDoS)攻击检测面临的两大挑战展开研究：一是攻击手法不断演进，生成式 AI 被用于构造更难识别的攻击流量，传统基于规则的防火墙难以捕捉这些新模式；二是训练数据本身存在不平衡与偏斜，尤其是包级特征(如正向/反向包计
Render Before Reading: Visual Rendering as a Prompt Injection Defense
该论文研究大语言模型（LLM）面临的提示注入攻击，重点考察对抗内容的输入模态对攻击效果的影响，并提出一种免训练的防御方法。作者首先提出一个关键观察：多模态 LLM 在对抗性指令以纯文本形式出现时，比同一指令通过非文本通道（例如渲染成图像，或
Distillation Defenses Easily Break After Reinforcement Learning
该论文研究了针对大语言模型蒸馏攻击的防御措施在攻击者后续进行强化学习训练时失效的问题。蒸馏攻击指攻击者系统性地收集闭源前沿模型的推理轨迹，并以此训练自己的模型，从而以低成本复制其推理能力。现有防御通常只在蒸馏完成后立即评估，隐含假设攻击者不
SEABench: Benchmarking Endogenous Misalignment In Self-Evolving Agents
该论文关注自演化 LLM 智能体（self-evolving LLM agents）带来的内生性失配（endogenous misalignment）风险。这类智能体在部署后能够根据用户与环境反馈修改自身"装备"（harness），包括控制
Share-Borne AI Virus: Memory-Hopping Attacks Across LLM Agents
这篇论文研究的是「共享产物驱动的 AI 病毒」这一失效模式：当 LLM 被部署为有状态助手（能够跨会话保留记忆，并能通过工具读写、修改、创建持久化产物）时，这些产物在用户之间共享，就构成了一条间接通信通道，使原本相互独立的助手之间产生了隐式
The Compiler May Read It, the Agent May Not: Keeping Part of a Research Code Away from a Coding Agent
这篇论文（cs.AI / cs.SE）聚焦一个在「AI 编码智能体辅助科研开发」场景中日益尖锐但缺乏系统分析的矛盾：同一份代码仓库里，某些模块是构建物理求解器所必需的（编译器必须读取），但同时又属于不宜暴露给外部编码智能体的知识产权（age
"Nothing to See Here'': Unintended Disclosure through Revision Traces of LLM Deliverables
该论文研究大语言模型助手在协助用户起草发给第三方的交付物时出现的一类隐私泄露问题。用户在私密草稿阶段可能先写入某个条目、随后又删除或替换它；模型虽然在目标内容中删掉了该条目，却在陈述本次编辑动作时把它重新说了出来，作者将这类语句命名为"修订
PrivacySkills: How Privacy Guidance Shapes Source Selection in LLM Agents
本文提出 PrivacySkills，一个受控评测框架，研究大语言模型智能体在信息获取路径选择上如何受隐私指引呈现方式影响。核心问题是：当多种获取路径能带来同等任务相关价值时——查询公开可得的个人信息、访问机密来源，或直接与用户交互——智能
Planarian: Managing Agent State with Statepoints
该论文针对 LLM 智能体在执行复杂任务时不断修改文件、调用本地工具并与远程服务交互，从而在本地环境与远程服务两侧产生大量状态变更的问题。当前智能体框架缺少统一抽象，用户与智能体只能显式管理这些变更，无论是回退探索性操作还是从错误动作中恢复
Same Bytes, Different Authority: Reserved-Token Representations in Chat-Template Prompt Injection
该论文研究 LLM 智能体场景下的提示注入（prompt injection）问题，聚焦一个以往被忽视的细节：当注入指令被模型自身的聊天模板标记（如 <|im_start|> 这类保留控制标记）包裹时，攻击效果会显著增强。核心观察是，同一段
When Valid Tool Calls Change Meaning: Formation-Consistent Dispatch for LLM Agents
该论文聚焦于工具增强型 LLM 智能体(tool-enabled agents)在调用分派环节的一类结构性安全缺陷。作者指出：智能体在生成工具调用时，依据的是模型可见的接口描述(descriptor，即 schema、名称、参数说明)，而宿
Still There, No Longer Seen: Exposing Compression-Induced Risk in Large Vision-Language Models
该论文关注大型视觉语言模型（LVLM）在推理加速中被广泛采用的视觉 token 压缩技术所引入的安全盲区。压缩能显著降低推理成本，但现有鲁棒性评估多用聚合指标，无法回答一个关键归因问题：某次对抗性失败究竟是由压缩过程新增的，还是原本就继承自
Before Acting, Change the State: Prospective State Intervention for Web Agents under Deceptive Interfaces
该论文关注 LLM 驱动的 Web 智能体（Web Agent）在真实网页环境中执行用户任务时的安全性问题。作者指出，现有的防御手段主要集中在「行为层」——即对智能体即将执行的动作进行拦截、引导或重新规划，但这类方法忽略了一种独立的失效模式
JevVibe: Efficient Classification-Guided Secure Code Generation
该论文关注大语言模型代码生成中的安全弱点问题：模型可以产出功能正确、但隐含安全缺陷的代码，因此业界倾向于采用「先诊断弱点类型、再决定修复方式」的两阶段修复流水线。Common Weakness Enumeration（CWE）为这类诊断提供
DGF-Bench: A Benchmark for Simulating and Auditing Deception Against Multi-Agent Governance Boards
DGF-Bench 是一篇面向多智能体（multi-agent）治理决策场景的评测基准论文，作者 Jeremy Canale，归类 cs.AI。其核心问题是：当由语言模型驱动的智能体代替企业治理委员会来评审项目时，它们需要阅读证据、套用成文