Certified Multi-Source Integrity for Structured Agent Actions
该论文研究的是 LLM 智能体（agent）在执行高权限、往往不可逆的结构化操作（例如「支付某张发票」）时，如何对其动作完整性与来源可信性进行可证明的认证。作者指出当前威胁模型的关键特点：智能体并不是从一个单一可信答案中取值，而是从多份文档
#LLM
共收录 2152 条相关情报。
← 返回所有主题PerceptFence: Content-Mediation Architecture and Deterministic Coverage for Screen-Share AI Assistants
本文针对「实时屏幕共享型 AI 助手」的隐私治理难题提出 PerceptFence。这类助手需要持续读取用户的原始屏幕画面与语音流，但用户几乎无法在运行时控制助手可以观察、记忆或对外披露哪些内容。作者指出，仅靠提示词层面的隐私开关是无效的，
The Privacy Fallacy of Crowdsourced Fine-Tuning: Extracting Proprietary Data via Topic-Based Poisoning
该论文研究监督微调（SFT）流程中被长期忽视的一个隐私风险。当前大模型适配下游任务普遍依赖众包方式收集用户对话作为 SFT 数据，以降低人工标注成本，但这也意味着不受信任的用户可以向微调数据管道中注入数据。作者提出的核心问题是：恶意用户是否
Training Witnesses: Trusting the Training without Trusting the Trainer
该论文针对机器学习领域一个日益尖锐的结构性问题：研究进展的速度已经超过了验证能力。随着论文数量激增，每一项科学结论在最初阶段都只能依赖对「训练者」的信任，由此造成评测标准不统一、基线不可比、可靠进展被拖慢。传统上验证负担落在读者身上——读者
A2A-CaseVerify: Merkle-Linked Case-Evidence Verification for Cross-Organization A2A Workflows
该论文关注跨组织 Agent-to-Agent（A2A）工作流中的证据可验证性问题。随着大语言模型智能体通过 A2A 协议交换任务、消息与制品，仅验证单条消息有效并不能证明最终工作流结论背后存在完整、有序且与案例一致的证据路径。为此，作者提
Near-Duplicate Families Break Exact-Record Membership Inference
该论文研究成员推理（Membership Inference, MI）在近重复家族（near-duplicate families）存在时的失效问题。MI 用于判断某条记录是否出现在模型训练集中，正被越来越多地用于数据溯源和版权审计。这类应
No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability
该论文研究了基础模型训练效率与模型脆弱性之间可能存在的权衡关系。近年来，为应对大规模训练带来的巨大算力与数据需求，研究者广泛采用选择性数据采样、高效预训练以及简化强化学习（RL）训练管线等策略。这些方法显著降低了开销，但作者提出一个此前被忽
RAISE: Reinforcing Access Control Policy Synthesis in LLMs via Symbolic Evaluation
该论文关注一个在云权限治理中极具现实意义的问题：如何把自然语言描述的访问控制需求，可靠地翻译成形式化、可验证的授权策略。作者指出，这类转换并不只是语法层面的翻译，而需要对权限、约束与例外条件进行严格推理，即便当前最前沿的大模型也常常生成语义
SecProbe: Adaptive Evaluation of Coding Agents on Cybersecurity Vulnerabilities
该论文关注一个日益重要的问题：如何可靠地评估编码智能体（coding agent）在网络安全漏洞方面的意识与修复能力。作者指出，传统静态基准存在明显局限：任务覆盖范围与难度固定，模型能力提升后容易饱和；而真实世界可用的脆弱代码仓库稀缺，专家
HESP: Separating What to Probe from When to Stop in Local LLM Alert-Triage Agents
该论文针对安全运营中心（SOC）告警量远超分析师处理能力的现实困境，聚焦于一类特殊但普遍受限的部署场景：组织因合规或数据主权要求，无法将遥测数据上传到托管式大模型，只能在本机构硬件上使用小参数开放权重模型（如 Qwen2.5、Llama-3
Weird Machine Compositors: Exploiting AI Orchestration at the Expression Layer
该论文研究了 AI 编排平台（如 n8n 一类的工作流自动化/编排产品）中用于保护用户自定义表达式的沙箱机制，并提出了一个核心论断：这类沙箱本质上是“怪异机器（weird machine）”——其指令集并非设计者所设想的受限子集，而是底层语
Evaluating System One Models for Agent Security Decisions: Reliability, Calibration, and Selective Automation
该论文研究的是"基于模型的判别器"(model-based judges)能否可靠支撑智能体的自动化安全决策。背景是:LLM 智能体在运行中需要实时判断外部输入是否包含提示注入、是否带来交互风险、是否为有害请求。所谓 System One
API Secrets Should Never Become Tokens in the LLM's Vocabulary: A Threat Analysis of API Credential Handling in LLM Agent Systems and an Empirical Evaluation of a Vault-Mediated Execution Boundary
这篇论文指出，随着具备工具调用能力的大模型（LLM）智能体被广泛部署，API 凭证管理的问题性质发生了根本变化：它不再只是"密钥存放是否加密"的存储安全问题，而升级为"密钥会不会进入模型执行链路"的执行安全问题。作者提出的核心论点是：一旦密
Leaky Students: Membership Inference against On-Policy Distillation
该论文研究的是「在线策略蒸馏（On-Policy Distillation, OPD）」场景下的成员推断攻击（Membership Inference）。OPD 的训练方式与传统蒸馏不同：它让学生模型在自己生成的轨迹上，去匹配教师模型给出的
ORBIT: A Framework for Multi-Agent Safety and Security Evaluations
多智能体 LLM 系统正越来越多地被用于复杂、长周期的任务，同时也因智能体在真实环境中互相交互而自发形成。这类系统在带来任务泛化能力的同时，也引入了显著的安全与安全风险：支撑任务泛化的灵活通信协议同样暴露了新型威胁，从级联式提示注入（cas
AgentTell: Behavioural Side-Channel Leakage in Browser-Use Agents
浏览器使用型智能体（browser-use agent）在跨网站执行任务时会持续携带上下文信息，这虽然是完成任务所必需的，但也带来隐私风险：智能体可能在访问网站 A 时获知用户的某个私密事实（例如会员归属、所属机构或身份属性），随后在网站
Agentic Network Traffic Monitoring
随着 agentic AI 在各行业广泛应用，攻击面不断扩大，确保 AI agent 的行为符合用户意图成为关键安全需求。审计 agent 的网络流量可以提供清晰的交互记录。本文提出一种基于复值超稀疏流量矩阵（complex valued
Retrospective Distillation Attribution via Normalized Response Similarity
模型蒸馏通过在监督微调（SFT）阶段使用教师模型（通常来自商业 API）生成的回复来迁移能力，这使蒸馏后模型的来源归属（provenance）成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被
Learning to Refer: Client-Resolved Generation for Privacy-Aware Language Models
该论文关注云端大语言模型（LLM）在医疗、法律等敏感领域落地时的核心矛盾：用户必须把明文数据交给服务方推理，而现有的隐私保护方案（如同态加密、安全多方计算、差分隐私、联邦学习、表征加噪等）普遍存在明显短板——要么以牺牲任务效用为代价，要么带
Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection
本文聚焦 LLM Agent 安全评测的「有效性」问题。当 LLM Agent 能够调用具备特权能力的工具（文件读写、邮件发送、代码执行、外部 API 等）时，它就成为间接提示注入（IPI, Indirect Prompt Injectio