StyleAT: Defending Face Recognition Against Semantic Attacks
该论文研究人脸识别模型在"语义对抗编辑"下的脆弱性问题。背景是:人脸识别已被广泛嵌入日常身份认证与视频监控系统,而近期工作发现,对输入图像做对抗性但语义层面看似合理的修改(例如轻微改变年龄外观、调整头部姿态),就能诱导模型产生误分类。这类语
#cs.AI
共收录 1652 条相关情报。
← 返回所有主题LLMs as Linguistic Chameleons: Decoupling Semantics and Structure for Privacy-Preserving Communication
背景与问题：随着 LLM API 被大量集成进隐私敏感的业务流程，如何在推理阶段既保护输入隐私又不牺牲下游任务效用，成为一个突出难题。现有隐私保护方案（如加密、噪声扰动、局部替换等）通常需要保留大部分原始语义，以维持模型推理质量，但这也意味
Dual-Locking Learned AI Models: A PIN-Based Sparse QIM Watermarking and Adaptive Index Permutation Approach
该论文研究的是训练后神经网络的知识产权保护与防未授权使用问题，提出了一套名为「双锁」的模型保护框架，把「密钥驱动的索引置换」与「基于 PIN 的稀疏 QIM 水印」结合起来。核心思路分两层：第一层是锁定机制，对自适应选出的索引向量（如权重矩
When Agentic Trust Crosses Organizational Boundaries: Structural Externalization and a Reference Model for Trust Evidence
该论文关注智能体（agentic）系统日益普遍地跨越组织边界调用工具、服务、数据乃至其他智能体的现象，指出现有治理模型存在一个结构性缺口：当一个动作由生产域（producing domain）的智能体发起并委托执行时，依赖方（relying
Beyond Single-Model Injection: A Threat Model and Defense Architecture for Prompt Injection in Multi-Agent Systems
该论文指出，现有提示注入（Prompt Injection）研究几乎都局限于单模型聊天机器人场景，即攻击者通过精心构造的输入操纵单个 LLM。作者认为多智能体（Multi-Agent）系统引入了三种单模型场景中不存在的放大机制：其一，智能体
The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents
该论文研究了一个在 LLM 智能体安全中常被忽视的问题：记忆投毒防御在【良性流量】下的实用性与 token 开销。作者指出，现有记忆投毒防御通常只按“能否阻止攻击”来评估，但真实线上流量极少是恶意的；防御的实现成本却是每一次交互都要支付，而
SelfOp: An Optimization Algorithm for Self-Improving Security Agents
LLM 智能体正被用于漏洞发现、漏洞复现与补丁生成等安全任务，但在模型层面提升其能力通常依赖专家演示或可计算奖励，而安全任务恰恰很少具备这两点：执行轨迹昂贵、失败原因难以诊断、奖励稀疏且难以自动判定。因此研究重心转向执行框架（harness
TERMon: Detecting Persistent Behavioral Threats in Edge AI via Hardware-Native Ternary Runtime Monitor
该论文针对边缘 AI 加速器在安全攸关场景（如控制物理执行器、访问控制决策、告警触发）中的运行时可靠性问题展开研究。作者指出，这类部署中模型一旦发生权重损坏、分布漂移或遭遇对抗输入，往往仍会输出格式正确、置信度很高的预测结果，导致故障在运行
CIPL: A Channel-Aware Framework for Recoverable Privacy Leakage in LLM Agents
该论文指出，当前对 LLM 智能体（LLM Agent）隐私泄露的评估大多局限在单一组件内部（如记忆模块、检索链路、工具调用流水线），因此无法区分「内部已经暴露的敏感信息」与「外部观察者实际能够还原出的信息」这两类本质不同的问题。为此作者提
Micro-Collaborative Poisoning: A Distributed Attack on RAG Systems
检索增强生成(RAG)通过将大模型输出锚定在外部知识源上提升事实性，但这一依赖也使知识库本身成为投毒面。本文提出 Micro-Collaborative Poisoning(微协作投毒)，一种分布式投毒范式：攻击者不再把虚假目标主张集中写入
HE-Guardrail: A Homomorphic Guardrail Against Jailbreak Attacks for Encrypted Large Language Model Inference
同态加密（HE）已成为隐私保护机器学习（PPML）的重要技术路线，允许在密文上直接进行模型计算。在基于 HE 的 PPML 场景中，客户端将加密输入提交给服务端，服务端在无法获知明文的前提下对 LLM 等模型完成推理。论文指出这一设定中存在
CESBench: Benchmarking Large Language Models on Cryptographic Engineering Security for IoT Devices
该论文针对物联网（IoT）设备密码工程安全领域缺少专用评测基准的空白，提出了 CESBench。研究背景在于：对 IoT 设备而言，仅有安全的密码算法远远不够——拥有物理接触能力的攻击者可以直接攻击实现本身（如侧信道、故障注入），而实现缺陷
Authorization Revocation for Long-Running AI Agents: Root-Scoped Quiescence under Delegation and Asynchronous Execution
该论文研究长时运行的 AI 智能体（long-running AI agents）在授权撤销方面的根本性缺陷。这类智能体往往比发起它的进程存活更久，其存活载体包括长期凭据、委托出去的子任务、消息队列、回调、资源预留以及服务提供方侧的操作记录
Inference-Engine Fingerprinting Attacks are Practical: Exploring Model-Driven Environmental Discovery, Exploitation, and Escape
本文关注一个常被沙箱讨论忽视的攻击面：推理引擎本身。背景是前沿模型已经表现出利用复杂软件漏洞的能力，OpenAI 与 Anthropic 近期的沙箱逃逸事件说明这一风险并非理论推演。然而业界在讨论如何隔离推理栈组件时，注意力往往集中在网络代
Fingerprinting Multimodal Large Language Models
这篇论文针对多模态大语言模型（MLLMs）在版权与模型溯源方面的空白提出首个「多模态模型指纹」研究。研究背景是：MLLM 已被广泛用于图文推理等任务，但近期事件表明其存在被非法部署、被未授权蒸馏（即第三方用其输出训练衍生模型）的风险，而现有
A Scalable Trust Discovery Architecture for the Internet of Agents
本文关注「智能体互联网」(Internet of Agents) 场景下的大规模智能体互信与发现难题。作者指出, 现有智能体协议(如各类工具调用与智能体间通信协议)主要解决的是「怎么调用工具」「怎么发消息」, 而对于智能体如何大规模注册、如
ClashBench: Conflicts Leading Agents to Seize and Harm
随着智能体(Agent)系统被广泛部署，多个智能体会话越来越多地与用户既有的任务在同一环境中并行运行，彼此共享容量有限或状态互斥的资源（如端口、文件锁、显存、数据库连接、进程与服务等）。论文指出并形式化了一种此前未被系统研究的失效模式，作者
Trust, but Validate the Instrument: Auditing AI-Generated RTL Verification Plans on Authored Security-Regression Proxies
该论文研究 AI 生成 RTL 验证计划在硬件安全场景下的可信度问题。作者指出:大模型生成的验证计划即使通过了服务商(provider)的响应 schema 校验,也可能在进入可信执行环节时失败,即「schema 合规」不等于「执行有效」。
SoK: Trading Agents or Market Crashers? Dissecting Robustness and Security Failures in Academic Financial LLM Trading Schemes
该论文聚焦于自主 LLM Agent 进入高风险领域后的安全问题，指出当前 agentic AI 安全研究大多与具体领域无关，忽视了高后果场景所特有的攻击面。作者以金融交易 Agent 作为代表性案例：在这类场景中，单个被攻陷的 Agent
Red-Teaming Auto Mode: Improving Blocking Classifiers Against Malign Coding Agents
该论文研究的是编码智能体(coding agent)在生产环境中的安全护栏问题。当前主流做法是在智能体执行每个动作前,由一个阻断式监控器(blocking monitor)先审查并有权否决该动作,例如 Claude Code 的 Auto