From Bits to Beliefs: Recoverable Semantic Fingerprints for Black-Box Verification of Large Language Models
该论文关注开放权重大语言模型（Open-weight LLM）在发布后被复制、微调并通过黑盒 API 二次分发的场景下，原始模型所有者难以进行发布后归属验证的问题。现有黑盒指纹方案通常依赖「秘密查询—密钥对」：向可疑模型发送特定触发输入，检
#LLM
共收录 2152 条相关情报。
← 返回所有主题LeaseGuard: Incumbent-Preserving Admission Control for Privileged LLM Agents
该论文聚焦于特权语言模型（LLM）智能体在执行新任务时，可能通过抢占（preemption）方式挤掉正在运行且健康的既有任务（incumbent）的问题。作者指出，这类故障的根源在于：系统把“执行权限（execution privilege
Structured Decomposition for Reliable LLM-Generated Access Control Policies
该论文聚焦于一个现实痛点：自然语言描述访问控制需求易于人读，却难以直接落地为机器可执行的策略代码，而让大模型一次性生成策略往往在编译、语义与安全边界上频繁出错。作者提出并实现了一套基于 LLM 的模块化端到端管线，把自然语言访问控制策略（N
MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes
该论文面向当前 AI 智能体大规模自动化挖掘漏洞、但其报告数量已超过维护者人工审核能力的现实困境，提出了一套「探针（probe）」驱动的漏洞报告评估框架。作者指出，智能体提交的漏洞报告往往依赖特定应用自身的安全属性（security pro
Agents That Edit Documents: Measuring Agentic PDF Forgery Against a Non-Agentic Control
该论文研究自主型 AI 智能体（agent）被用于文档造假的现实风险，并为此构建了评测基准 AgentForge-Bench。研究背景是：过去一年里，能够独立完成多步计算机任务的智能体已成为常规工具，而这种自主性对抱持恶意目的的用户同样可用
Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges
该论文聚焦 agentic AI 带来的安全边界扩张问题。传统 LLM 安全主要关注生成内容本身，而具备自主性的智能体还要维护持久状态、执行自主动作、调用外部工具，并与人类及其他智能体交互，这使得威胁面从"输出内容"延伸到"状态—动作—工具
TriFleetRCA: On-Premise LLM Root Cause Analysis for Kubernetes
论文针对远程站点/边缘环境的 Kubernetes 根因分析（RCA）痛点展开研究。当前运维场景中，故障证据分散在 Pod 日志、Kubernetes 事件与集群级对象里，跨源关联耗时且依赖人工经验；同时许多企业出于合规与数据主权要求，无法
When the Agent Becomes the Kernel: A Systematization of Security on the Path to AI-Native Operating Systems
本文对"AI 原生操作系统"路径上的安全问题进行了系统化梳理（systematization）。研究背景是：大语言模型智能体已不再是单纯的文本生成器，而是被授予了高权限的主体（principal），能够直接编辑代码仓库、操作用户收件箱、完成
Runtime Authorization Consistency Checking for MCP-based Agentic Workflows
该论文聚焦 MCP（Model Context Protocol）驱动的智能体（agentic）工作流中的授权安全问题。此类系统通过多步工具调用访问文件、服务与外部资源来满足用户请求，而现有防护普遍采用“逐调用隔离检查”的方式，即对每一次工
Specification Before Generation: A Pre-Registered, Five-Model Paired Evaluation of a Specification Frame for LLM-Generated Code in Money, Time, Idempotency, and Access Tasks
该论文研究一个在受监管后端开发中反复出现却长期未被有效解决的问题：大语言模型生成的代码在安全与正确性检查上的通过率四年来几乎没有提升，而在金融、医疗、保险等受监管场景里，真正致命的缺陷类别集中在四类——金额运算（精度、舍入、货币单位）、时间
LLMs as Linguistic Chameleons: Decoupling Semantics and Structure for Privacy-Preserving Communication
背景与问题：随着 LLM API 被大量集成进隐私敏感的业务流程，如何在推理阶段既保护输入隐私又不牺牲下游任务效用，成为一个突出难题。现有隐私保护方案（如加密、噪声扰动、局部替换等）通常需要保留大部分原始语义，以维持模型推理质量，但这也意味
An LLM-Assisted AutoML Framework for Intrusion Detection in IoT Networks
该论文面向物联网（IoT）环境下的入侵检测系统（IDS）构建效率问题展开研究。IoT 已广泛部署于智能家居、交通运输、能源系统与关键基础设施，连通的扩大在提升服务智能化的同时显著扩大了攻击面，因此基于机器学习（ML）的入侵检测成为保护 Io
Secrets That Survive Everything: Runtime Credential Exposure in Production Web Applications
该论文聚焦一个长期被忽视的防护缺口：部署前的密钥扫描只作用于源代码仓库，而从不检查生产应用实际向浏览器下发的资源。作者在一次获得授权的评估中审计了某组织约 2,000 个企业级 Web 资产，发现其中 113 个（5.65%）在生产 Jav
When Agentic Trust Crosses Organizational Boundaries: Structural Externalization and a Reference Model for Trust Evidence
该论文关注智能体（agentic）系统日益普遍地跨越组织边界调用工具、服务、数据乃至其他智能体的现象，指出现有治理模型存在一个结构性缺口：当一个动作由生产域（producing domain）的智能体发起并委托执行时，依赖方（relying
Beyond Single-Model Injection: A Threat Model and Defense Architecture for Prompt Injection in Multi-Agent Systems
该论文指出，现有提示注入（Prompt Injection）研究几乎都局限于单模型聊天机器人场景，即攻击者通过精心构造的输入操纵单个 LLM。作者认为多智能体（Multi-Agent）系统引入了三种单模型场景中不存在的放大机制：其一，智能体
SelfOp: An Optimization Algorithm for Self-Improving Security Agents
LLM 智能体正被用于漏洞发现、漏洞复现与补丁生成等安全任务，但在模型层面提升其能力通常依赖专家演示或可计算奖励，而安全任务恰恰很少具备这两点：执行轨迹昂贵、失败原因难以诊断、奖励稀疏且难以自动判定。因此研究重心转向执行框架（harness
APort Vault: Benchmarking AI Agent Payment Authorization with the Open Agent Passport
该论文提出 APort Vault，一个面向工具使用型 AI 代理的支付授权基准。研究背景是：当 LLM 代理能够调用支付工具时，模型自身的策略遵循不足以保证资金只流向授权对象。作者在公开 CTF 活动中收集了人类编写的 4,371 条攻击
Provisional Reachability: Containing Agents by Making Every Crossing Revocable
本文研究如何为防御者设定可量化的信息泄露速率上限，以限制智能体在多轮交互中逐步拼接敏感信息。前作指出需阻断的量有单位——每周期比特数，本文设定该速率。核心机制为“临时可达性”：把每次跨边界访问暂存一个周期，对暂存项以概率 r 独立审计，任一
Watermarkable Multi-Draft Speculative Sampling via Poisson Processes
该论文研究大语言模型（LLM）部署中的两个关键需求：推理效率（inference efficiency）与输出溯源（output provenance），前者通常由推测采样（speculative sampling）解决，后者由文本水印（w
CIPL: A Channel-Aware Framework for Recoverable Privacy Leakage in LLM Agents
该论文指出，当前对 LLM 智能体（LLM Agent）隐私泄露的评估大多局限在单一组件内部（如记忆模块、检索链路、工具调用流水线），因此无法区分「内部已经暴露的敏感信息」与「外部观察者实际能够还原出的信息」这两类本质不同的问题。为此作者提