#agent-security

共收录 1542 条相关情报。

学术论文2026-09-27 发布INFO

A2A-ForensicTrace: Offline Verification of Tamper-Evident A2A Runtime Evidence

该论文针对 Agent2Agent(A2A) 多智能体运行时证据的取证难题提出 A2A-ForensicTrace 框架。背景是:安全相关的 A2A 执行往往跨越组织边界,参与的系统分属不同主体,调查人员事后难以对所有参与节点进行实时访问,

历史摘要 · 未重新核验 · arXiv cs.CR

#agent-security #a2a #digital-forensics #tamper-evident-logging #llm-agents

学术论文2026-09-27 发布INFO

A2A-CaseVerify: Merkle-Linked Case-Evidence Verification for Cross-Organization A2A Workflows

该论文关注跨组织 Agent-to-Agent（A2A）工作流中的证据可验证性问题。随着大语言模型智能体通过 A2A 协议交换任务、消息与制品，仅验证单条消息有效并不能证明最终工作流结论背后存在完整、有序且与案例一致的证据路径。为此，作者提

历史摘要 · 未重新核验 · arXiv cs.CR

#agent-security #a2a #llm #evidence-verification #merkle-tree

学术论文2026-09-27 发布INFO

RAISE: Reinforcing Access Control Policy Synthesis in LLMs via Symbolic Evaluation

该论文关注一个在云权限治理中极具现实意义的问题：如何把自然语言描述的访问控制需求，可靠地翻译成形式化、可验证的授权策略。作者指出，这类转换并不只是语法层面的翻译，而需要对权限、约束与例外条件进行严格推理，即便当前最前沿的大模型也常常生成语义

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.SE #cs.LG #llm #access-control #policy-synthesis #formal-verification

学术论文2026-09-27 发布INFO

SecProbe: Adaptive Evaluation of Coding Agents on Cybersecurity Vulnerabilities

该论文关注一个日益重要的问题：如何可靠地评估编码智能体（coding agent）在网络安全漏洞方面的意识与修复能力。作者指出，传统静态基准存在明显局限：任务覆盖范围与难度固定，模型能力提升后容易饱和；而真实世界可用的脆弱代码仓库稀缺，专家

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #coding-agent #vulnerability-evaluation #benchmark

学术论文2026-09-27 发布INFO

COGNIT-Guard: Calibrated Standalone Direct-Decision Guardrails with Heterogeneous CPU-NPU Confidence Cascading under Explicit Latency and False-Positive Constraints

该论文研究的是"预摄取（pre-ingestion）阶段"的实时安全护栏问题：在目标大模型开始 prefill 之前就要完成提示词筛查，并同时满足三个约束——概率输出必须经过校准、必须把合规类"两用"查询的误报压到极低、以及要在明确的延迟

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.LG #llm-guardrail #calibration #false-positive-control #cpu-npu-cascade #latency-slo

学术论文2026-09-27 发布INFO

What Does It Mean to Forget a Person? Individual-Level Unlearning in Vision-Language Models

这篇论文关注视觉-语言模型(VLM)中的隐私删除问题,指出现有研究与评测体系存在一个关键盲区。作者认为,从 VLM 中抹除某个具体个人的身份信息,远比抹除单条属性困难,因为个人数据并非以孤立字段形式存储,而是跨图像、文本等多种模态相互纠缠、

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.CY #vlm #machine-unlearning #privacy #multimodal #benchmark

学术论文2026-09-27 发布INFO

HESP: Separating What to Probe from When to Stop in Local LLM Alert-Triage Agents

该论文针对安全运营中心（SOC）告警量远超分析师处理能力的现实困境，聚焦于一类特殊但普遍受限的部署场景：组织因合规或数据主权要求，无法将遥测数据上传到托管式大模型，只能在本机构硬件上使用小参数开放权重模型（如 Qwen2.5、Llama-3

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #llm #agent-security #soc #alert-triage #local-llm

学术论文2026-09-27 发布HIGH

Weird Machine Compositors: Exploiting AI Orchestration at the Expression Layer

该论文研究了 AI 编排平台（如 n8n 一类的工作流自动化/编排产品）中用于保护用户自定义表达式的沙箱机制，并提出了一个核心论断：这类沙箱本质上是“怪异机器（weird machine）”——其指令集并非设计者所设想的受限子集，而是底层语

历史摘要 · 未重新核验 · arXiv cs.CR

#agent-security #llm #sandbox-bypass #workflow-orchestration #n8n #application-security

学术论文2026-09-27 发布INFO

Evaluating System One Models for Agent Security Decisions: Reliability, Calibration, and Selective Automation

该论文研究的是"基于模型的判别器"(model-based judges)能否可靠支撑智能体的自动化安全决策。背景是:LLM 智能体在运行中需要实时判断外部输入是否包含提示注入、是否带来交互风险、是否为有害请求。所谓 System One

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.SE #agent-security #llm #model-calibration #prompt-injection

学术论文2026-09-27 发布INFO

API Secrets Should Never Become Tokens in the LLM's Vocabulary: A Threat Analysis of API Credential Handling in LLM Agent Systems and an Empirical Evaluation of a Vault-Mediated Execution Boundary

这篇论文指出，随着具备工具调用能力的大模型（LLM）智能体被广泛部署，API 凭证管理的问题性质发生了根本变化：它不再只是"密钥存放是否加密"的存储安全问题，而升级为"密钥会不会进入模型执行链路"的执行安全问题。作者提出的核心论点是：一旦密

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.LG #agent-security #llm #credential-management #prompt-injection

学术论文2026-09-27 发布INFO

ORBIT: A Framework for Multi-Agent Safety and Security Evaluations

多智能体 LLM 系统正越来越多地被用于复杂、长周期的任务，同时也因智能体在真实环境中互相交互而自发形成。这类系统在带来任务泛化能力的同时，也引入了显著的安全与安全风险：支撑任务泛化的灵活通信协议同样暴露了新型威胁，从级联式提示注入（cas

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.MA #agent-security #llm #multi-agent #evaluation-framework #prompt-injection

学术论文2026-09-26 发布MEDIUM

AgentTell: Behavioural Side-Channel Leakage in Browser-Use Agents

浏览器使用型智能体（browser-use agent）在跨网站执行任务时会持续携带上下文信息，这虽然是完成任务所必需的，但也带来隐私风险：智能体可能在访问网站 A 时获知用户的某个私密事实（例如会员归属、所属机构或身份属性），随后在网站

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #privacy #side-channel #browser-agent

学术论文2026-09-26 发布INFO

PlanGuard: A Guardrail for Multi-Step Plan Safety in Embodied Agents

具身智能体（embodied agent）在执行任务前通常会由任务规划器生成多步计划，而子任务之间的依赖关系以及与物理环境的交互，可能在执行过程中叠加出单步看起来无害、整体却具备物理危险性的组合风险。论文指出，现有防护手段存在明显盲区：通用

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.CV #cs.RO #agent-security #embodied-ai #llm-guardrail

学术论文2026-09-26 发布INFO

Agentic Network Traffic Monitoring

随着 agentic AI 在各行业广泛应用，攻击面不断扩大，确保 AI agent 的行为符合用户意图成为关键安全需求。审计 agent 的网络流量可以提供清晰的交互记录。本文提出一种基于复值超稀疏流量矩阵（complex valued

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.DB #cs.DC #cs.NI #agent-security #llm

学术论文2026-09-26 发布INFO

Learning to Refer: Client-Resolved Generation for Privacy-Aware Language Models

该论文关注云端大语言模型（LLM）在医疗、法律等敏感领域落地时的核心矛盾：用户必须把明文数据交给服务方推理，而现有的隐私保护方案（如同态加密、安全多方计算、差分隐私、联邦学习、表征加噪等）普遍存在明显短板——要么以牺牲任务效用为代价，要么带

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #privacy #llm #cloud-inference #agent-security #data-minimization

学术论文2026-09-26 发布INFO

Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection

本文聚焦 LLM Agent 安全评测的「有效性」问题。当 LLM Agent 能够调用具备特权能力的工具（文件读写、邮件发送、代码执行、外部 API 等）时，它就成为间接提示注入（IPI, Indirect Prompt Injectio

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.LG #agent-security #llm #prompt-injection #benchmark-validity #evaluation

学术论文2026-09-26 发布MEDIUM

Trust the Brand, Lose Control: How Identity Hijacks LLM Agent Orchestration

该论文研究 LLM 智能体编排（orchestration）中的身份可信问题。当前 LLM 智能体已能端到端执行任务并拥有修改真实系统的权限，还常会调度能力与成本各异的子智能体。以往工作把「选哪个子智能体」当作优化问题，但作者指出：编排器实

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #multi-agent #orchestration #benchmark

学术论文2026-09-25 发布LOW

FragToken: Amplifying LLM Inference Costs through Noncanonical Token Generation

该论文研究的是大模型推理阶段的一种新型资源消耗（成本放大）攻击面。背景是：随着 LLM 推理成本不断攀升，针对模型服务方的资源耗尽攻击日益受到关注。已有攻击通常通过触发超长或高度重复的输出来放大成本，但这依赖攻击者可控或可触发的请求，在正常

历史摘要 · 未重新核验 · arXiv cs.CR

#llm-security #inference-cost-attack #model-supply-chain #tokenization #resource-exhaustion #agent-security

学术论文2026-09-25 发布INFO

AgentXploit: Autonomous Repository-to-Runtime Red-Teaming for AI Agents

该论文研究 AI Agent 在授权白盒、部署前审计场景下的安全性评估问题。作者指出，现代 AI Agent 将大语言模型与可修改文件、调用 API、执行代码的外部数据和工具结合，安全失效可能来自两个层面：一是外部对抗性内容改变了 Agen

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #red-teaming #benchmark #prompt-injection

学术论文2026-09-25 发布MEDIUM

JevAdvBench: A Benchmark and Black-Box Attacks for Reinforcement Learning for Calibrated Decisions Models

该论文研究的是「面向校准决策的强化学习」(RLCD, reinforcement learning for calibrated decisions) 模型的对抗鲁棒性问题，代表模型是 Jev。这类模型与常规生成式模型不同：它接收输入(称为

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.CL #agent-security #llm #adversarial-robustness #benchmark