Halt Fast! Early Stopping for Certified Robustness
本文针对随机平滑（Randomized Smoothing, RS）认证方法计算开销过大的问题，提出了一种基于元学习的早停框架。传统RS需要为每个输入进行数万次模型评估，且必须预先固定样本量，导致实际部署困难。作者设计了一个轻量级元学习器，
#cs.AI
共收录 1670 条相关情报。
← 返回所有主题On the Inseparability of Instructions and Data in Shared-Embedding Sequence Models
该论文研究了大型语言模型（LLM）集成应用中 prompt injection 攻击的根本原因。作者证明，在共享嵌入架构中，如果缺乏强制性的控制与数据分离，完美防御 prompt injection 在数学上是不可能的。论文形式化定义了“提
Application of LLMs to Threat Assessment of Foreign Peacekeeping Missions
该论文提出了一种利用大语言模型（LLM）支持外国维和任务威胁评估的新方法。研究基于PINPOINT项目及其在欧盟格鲁吉亚监测任务中的实际用例，结合跨学科风险模型、开源情报（OSINT）媒体收集和LLM辅助的威胁提取。工作流程将媒体报道映射到
Inherited Circuits, Learned Semantics: How Fine-Tuning Creates Evasion Vulnerabilities Invisible to Standard Evaluation
本文研究了大语言模型（LLM）在安全分类任务的微调过程中引入的隐蔽漏洞。通常，LLM在微调后会在同分布留出集上评估，但作者发现这种标准评估无法检测出微调本身带来的新脆弱性：模型可能学习到基于令牌的指示器语义，在保持正常分类准确率的同时，对行
ShareLock: A Stealthy Multi-Tool Threshold Poisoning Attack Against MCP
随着大语言模型驱动的智能体快速发展，模型上下文协议（MCP）作为一种连接LLM与外部工具的开源协议，已成为现代智能体生态系统的基础。然而，MCP的广泛应用也带来了新的安全威胁，例如工具投毒攻击（TPA），即利用LLM与服务器之间的交互注入恶
Chai: Agentic Discovery of Cryptographic Misuse Vulnerabilities
本文提出 Chai，一个基于 AI 的漏洞发现系统，专门针对加密误用（cryptographic misuse）这类缺少传统插桩检测支持的漏洞类型。传统 AI 辅助漏洞发现主要依赖内存安全等具有明确插桩验证的漏洞类，而对于加密误用，由于缺乏
A Deterministic Control Plane for LLM Coding Agents
该论文研究了大语言模型（LLM）编码代理（coding agents）的配置管理问题。编码代理通常被授予广泛的文件系统和shell访问权限，但指导其行为的配置层（如规则文件、代理定义、IDE特定的markdown）却缺乏系统化管理。作者对1
Fortress and Gatekeeper: Theorizing Transitive Trust in Third-Party Cybersecurity Risk Governance
本文针对第三方供应商（如分析平台、云服务、身份提供商、软件供应商）日益嵌入数字服务交付所带来的网络安全治理挑战，通过分析2025年11月OpenAI-Mixpanel安全事件这一典型案例，揭示了供应商环境中的安全事件如何转变为与客户保持关系
MIRROR: Novelty-Constrained Memory-Guided MCTS Red-Teaming for Agentic RAG
本文提出了一种针对多模态智能体检索增强生成（RAG）系统的统一红队测试框架MIRROR。现有红队方法通常针对特定攻击面（如文本投毒、图像注入、直接查询、编排器工具操控），且常复用已知攻击模板，在文本投毒基准测试中重复率高达73-84%。MI
TGHE: Template-based Graph Homomorphic Encryption for Privacy-Preserving GNN Inference in Edge-Cloud Systems
本文提出了一种新颖的基于模板的图同态加密（TGHE）框架，旨在解决现有同态加密（HE）图神经网络（GNN）系统在边缘-云系统中进行隐私保护推理时面临的可扩展性问题。传统的HE-GNN系统采用图中心范式，每个查询的成本与全局图大小成正比，导致
Autoformalization of Agent Instructions into Policy-as-Code
本文提出一种自动形式化（autoformalization）流水线，旨在将智能体指令转化为“策略即代码”（Policy-as-Code），以在高风险领域中实现正式的策略执行。现有方法主要分为两类：一是基于概率性护栏（如微调分类器、提示引导）
Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents
大型语言模型（LLM）智能体越来越多地用于查询数据库、检索文档集合、调用外部API、记忆过往交互并代表用户执行操作。随着其应用从简单的问答扩展到处理敏感数据，隐私保护变得更加困难。智能体涉及多个数据源、运行多步工作流、跨会话保持状态，并拥有
Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents
该论文聚焦于LLM Agent（大语言模型驱动的智能体）在面对间接提示注入攻击时的防御策略。近期（2024-2026）的研究趋势是从训练模型拒绝恶意指令转向在模型之外通过确定性策略实施安全防御，即带外防御（out-of-band defen
ProvenAI: Provenance-Native Traces of Evidence in Generated Answers
随着检索增强生成系统在问答任务中广泛应用，其提供的引用往往无法反映真实的信息来源影响。本文提出ProvenAI框架，将多跳问答中的透明度分解为三个独立可测量的层次：答案正确性（answer correctness）、引用保真度（citati
Hybrid privacy-aware semantic search: SVD-truncated document geometry and CKKS-encrypted query reranking under a restricted threat model
本文研究了一种混合隐私保护的语义搜索方案，旨在解决稠密向量嵌入在向量数据库泄露时面临的嵌入-反演攻击（即从向量重构原始文本）问题。传统的防御手段存在两个极端：完全同态加密虽然安全性强，但在百万级文档规模下延迟过高；而添加隐私噪声会在保护效果
Governing Actions, Not Agents: Institutional Attestation as a Governance Model for Autonomous AI Systems
本文针对自主AI代理可能执行具有重大影响且不可逆的操作（如临床处方和软件部署）这一现实问题，提出了一种新的治理模型。核心思想是借鉴人类社会中机构管理强大自主行动者的方式：不监控其推理过程，而是在关键行动点要求独立认证的证据。作者将这种制度模
TEMPO-Diffusion: Temporally Exposed Malicious Poisoning of Diffusion Models
本文提出了一种针对扩散模型（Diffusion Models）的新型后门攻击框架TEMPO-Diffusion。传统的基于噪声的后门攻击通常依赖于在推理时注入触发器、非目标激活以及生成分布外目标，这些假设降低了攻击的隐蔽性和实际相关性。TE
CyberChainBench: Can AI Agents Secure Smart Contracts Against Real-World On-Chain Vulnerabilities?
该论文提出了CyberChainBench，一个用于评估基于大型语言模型（LLM）的智能合约安全代理的基准测试。基准测试涵盖三个互补任务：漏洞检测、利用生成和补丁合成。它基于来自DeFiHackLabs的541个真实世界利用事件构建，跨越9
The Unfireable Safety Kernel: Execution-Time AI Alignment for AI Agents and Other Escapable AI Systems
本论文针对可逃逸AI系统（即拥有足够权限影响自身运行时的AI系统，例如可调用工具和API的AI代理）提出了一种执行时AI对齐方法。作者指出，当前主流安全控制方法（如系统提示、输出过滤、护栏库）均位于代理自身运行时内，易受输入影响而被绕过。为
Can Trustless Agents Be Trusted? An Empirical Study of the ERC-8004 Decentralized AI Agent Ecosystem
本研究针对 ERC-8004 协议——首个为 AI 代理经济设计的无许可信任层——进行了首次实证分析。该协议通过链上身份、声誉和验证三个注册表，旨在解决自主 AI 代理跨组织交易时的信任评估问题。尽管协议被快速采用，但其实际有效性和安全性未