Agent Flight Recorder: Tamper-Evident Audit Trails with On-Chain Anchoring for Long-Horizon Tool-Using Agents
长时程智能体（如自动编码代理）执行数千个动作，其故障往往是顺序蔓延而非孤立错误。针对此类场景中的问责、因果追溯和第三方验证问题，论文提出“Agent Flight Recorder”（AFR）：一种面向工具使用型智能体的防篡改审计追踪系统。
#cs.MA
共收录 117 条相关情报。
← 返回所有主题Zero-Knowledge Predicate Proofs Between AI Agents: A Measured, Cross-Protocol Gateway and the Source-Integrity Gap
该论文针对多智能体AI平台从试运行快速走向生产过程中代理间信任机制原始的问题。当前代理要么传输原始数据（过度共享），要么接受对方的自然语言自我声明（不可验证且易受提示注入攻击）。现有应对方案侧重于身份、可见性和事后检测，而近期提出的密码学强
Offline-Verifiable Accountability for Cross-Organization Agent Messaging: A Preserved Evidence-Bundle Approach
该论文针对跨组织智能体（Agent）工作流中的问责与审计难题，提出了一种离线可验证的保留证据包（Preserved Evidence-Bundle）方法。在跨组织场景下，多个组织参与智能体间的消息交互与委派操作，事后审计或纠纷评审时需要保留
Compared to What? A Human-Anchored Security Benchmark for LLM-Generated Infrastructure-as-Code
本文提出 GenIaC-SecBench，一个用于评估大语言模型生成基础设施即代码（IaC）安全性的基准测试。研究动机是：LLM 越来越多地被用于编写 IaC，而其中单个不安全默认值可能直接部署到生产环境；已有评估多报告原始漏洞数量，但缺乏
MACGen: Toward Functionally Correct and Secure Code Generation via Multi-Agent Collaboration
本文针对大型语言模型（LLM）在代码生成任务中虽然能实现功能正确性，却常常产生包含安全漏洞的代码这一问题，提出了一种基于多智能体协作的代码生成框架 MACGen。作者指出，安全代码生成本质上是一个多目标优化问题，需要同时兼顾功能正确性与安全
Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems
该论文系统研究了基于大语言模型（LLM）的多智能体交易系统中的对抗性漏洞。这类系统由多个专业智能体通过结构化通信协作生成交易决策，正从研究原型快速走向控制真实资产的实时部署。然而，智能体间的通信在提升效率的同时也引入了攻击面：一个被污染的信
Rules Before Oracles: Auditable, User-Configurable Argument Selection for Deliberative Polling
本文研究审议性民意调查（deliberative poll）中参数选择机制的可审计性问题。当提交的论证数量超出任何个人的阅读能力时，必须有一种机制决定每个选民看到哪些论点，这一过程实际上掌握了大部分决策权。现有实践常常依赖不透明的学习型排名
TessIndex: Capability Verified Identity System for the Agent Economy
本文针对智能体经济（Agent Economy）快速演进背景下，现有软件系统的身份与信任基础设施缺失问题展开研究。传统系统以人类用户为核心决策者，而新一代具备自主能力的AI智能体能够将高层目标自动拆解为结构化任务，并编排工具、服务与子智能体
Autonomous Cyber Defense in Connected Vehicles: A Multi-Agent Approach to V2X Security
该论文聚焦网联汽车（Connected Vehicles）中车联网（V2X）通信的安全与时间约束耦合问题。核心背景是：网联汽车必须在约100毫秒内判断接收到的基本安全消息（BSM）是否真实；若伪造的紧急制动警报及时进入规划管线，车辆会误刹车
SysEvolve: An AI-native, safe, autonomous adversarial attack-defense co-evolutionary system
这篇论文聚焦于大语言模型（LLM）带来的网络安全攻防不对称问题：攻击正在趋于自主执行，而防御仍高度依赖人工分析，导致攻防失衡。作者认为，这种不对称的根本原因在于攻防双方在三个层面的“进化”陷入停滞。为此，他们提出“共同进化”（co-evol
InterSAGE: The Secure and Verifiable Interoperability Protocol for An Internet of Agents
本文提出 InterSAGE，一个面向“智能体互联网”（Internet of Agents）的安全与可验证互操作协议套件。随着大语言模型（LLM）驱动的智能体能够跨组织边界发现对等体、调用工具并委派任务，现有协议（如 MCP、A2A、AN
Compositional Threat Analysis of Latent Compromise in LLM Agent Systems: The Order 66 Scenario
该论文借鉴虚构作品《星球大战》中的“第66号令”情节，提出了一种针对使用工具的LLM代理系统的组合式威胁分析框架。作者指出，在真实系统中，灾难性后果往往并非源于单一强大指令，而是由多个看似无害的组件组合触发：一个被部署的工件或共享内存中潜伏
Guixu: Valuation-Driven Data Discovery for Autonomous AI Agents with On-Chain Attestation
该论文提出了 Guixu，一个面向自主 AI 代理的、以数据价值评估驱动的数据发现系统。当前自主代理在执行模型训练、决策支持等下游任务时，高度依赖外部数据，但现有数据发现系统大多停留在检索层面：它们只能从异构数据源中返回候选数据集，却无法有
IntelliAudit: Using Large Language Models to Evaluate Audit Controls
本文提出IntelliAudit系统，旨在解决IT审计中自动化评估证据的难题。传统审计需要审计员判断异构组织证据（如政策、记录、电子表格和操作工件）是否满足语义安全与合规控制，这种判断难以自动化，因为相关证据分散且审计结论依赖证据充分性而非
Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)
该论文提出并实现了一个名为 Trident 的智能体化 LLM 红队框架，用于评估和攻破基于深度强化学习（DRL）的自主网络防御系统。研究背景在于：现有的 DRL 防御评估几乎完全依赖静态或启发式红队智能体，缺乏对自适应威胁的鲁棒性检验；同
Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity
本文研究多智能体协同过滤（CF）系统中的攻击与防御问题，特别关注系统连接性如何影响这些攻击和防御的效果。多智能体CF系统由多个自主的大语言模型（LLM）驱动的用户智能体和物品智能体组成，它们通过自然语言交互来细化偏好并生成推荐。这类系统既继
Internalising the Identity Primitive: Cryptographic Individuality for an Autonomous Agent on a Public Blockchain
该论文提出并实现了一种在公共区块链上为自主代理建立‘密码学个体性’的新方法。核心研究问题是：当软件代理在公共区块链上积累权限与经济权益时，如何从密码学层面界定其‘个体’身份，而非依赖硬件、操作者或包装信任。作者将身份信任根迁移到由固定代码实
Securing Agentic AI: From Per-Action Checks to Trajectory Assurance
本文提出自主代理（尤其是基于大型语言模型的代理）在承担重要任务时的安全性问题。作者指出，代理的安全性不仅取决于单个动作的正确性，更取决于其整体行为是否与运行环境的操作约束、组织政策、监管要求和技术标准保持一致。随着代理自主性增强并跨组织边界
Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems
本文提出了一种面向开放数字孪生生态系统中可验证AI代理的神经符号化参与治理框架。研究背景是：随着大语言模型赋能的自主AI代理日益成为高价值决策支持系统的重要组成部分，在多机构、去中心化环境下，现有代理系统缺乏对身份、能力和策略合规性的强健验
When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic Systems
本文研究了大语言模型（LLM）被集成到自主机器人系统中进行任务规划与控制时面临的安全威胁，重点聚焦于提示注入攻击在多智能体机器人系统中的影响。随着LLM在机器人领域的广泛应用，攻击者可以通过注入恶意指令操纵机器人的决策，导致不安全行为甚至物