XR-PRISM: Data-Driven Privacy and Risk Impact Scoring Metric for Extended Reality in Healthcare
该论文提出了一种面向医疗保健场景中扩展现实（XR）技术的隐私与风险影响量化评分指标 XR-PRISM。研究背景是 XR 技术（涵盖虚拟现实 VR、增强现实 AR、混合现实 MR）通过沉浸式训练、远程会诊和患者康复等应用正在变革医疗行业，但其
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Hardware-rooted attestation for AI-agent evidence: composing IETF RATS with action evidence packages
本文提出一种将硬件根信任与 AI Agent 软件层证据相结合的可信证明方案。作者指出，纯软件层的行为证据包（Action Evidence Package, AEP）——即由 Agent 运行时签名的、仅可追加的日志记录（包含操作内容、授
Safety Invariants for Agents Orchestrating Irreversible State Transitions: A Four-Dimensional Formalism Evaluated on Public Ledgers
随着LLM驱动的自主代理越来越多地执行对外部系统的不可逆操作（如转账、写入持久存储、控制硬件），现有框架如ReAct、Reflexion、MCP主要优化任务成功率，对不可逆副作用的关注不足。本文聚焦公共账本上的价值转移场景，将状态转换建模为
When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic Systems
本文研究了大语言模型（LLM）被集成到自主机器人系统中进行任务规划与控制时面临的安全威胁，重点聚焦于提示注入攻击在多智能体机器人系统中的影响。随着LLM在机器人领域的广泛应用，攻击者可以通过注入恶意指令操纵机器人的决策，导致不安全行为甚至物
Adversarial Attacks in Multi-Agent LLM Pipelines: Unveiling Structural Vulnerabilities in Agentic AI Architectures
本研究聚焦于多智能体大语言模型（LLM）流水线中存在的结构性安全漏洞。多智能体LLM流水线将多个专用语言模型智能体编排为结构化工作流，中间输出在智能体之间传递以解决复杂任务。这种设计引入了单智能体场景中不存在的新型安全缺口：一旦某个智能体接
From Chasing Ghosts to Missed Attacks: Perspectives and Perceptions of SOC Practitioners on LLM Integration, Risks, and Readiness
本文针对大型语言模型（LLM）在安全运营中心（SOC）实际工作流中的适用性问题，开展了一项实证研究。研究背景是SOC分析师需要处理海量安全事件，并在时间压力下准确检测和评估网络攻击；虽然LLM在安全运营方面展现出潜在价值，但其现实应用效果与
Improving the Security of Containerized Workloads using Transparency and Traceability Services
本文针对容器化工作负载在构建、存储和部署环节中面临的安全挑战，提出了一种基于透明性和可追溯性服务的可验证容器镜像分发架构。研究背景是：容器镜像通常通过 CI/CD 流水线构建，存储在镜像仓库中，并部署到云和边缘等异构基础设施。一旦某个构建步
A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense
该论文针对链式思维（Chain-of-Thought, CoT）监控的鲁棒性展开研究。CoT监控旨在通过检查智能体的推理过程来识别奖励黑客行为（reward hacking），因为这类攻击在动作层面可能表现正常，仅在推理中暴露意图。然而作者
Robust Watermarks Meet Backdoored Models: Evading Diffusion Semantic Watermarks via Stealthy Backdoor
本文研究了扩散模型语义水印系统的一个关键安全漏洞。语义水印被广泛用于保护潜在扩散模型（LDM）生成的图像版权，但其检测流程依赖神经网络，这引入了被植入后门的攻击面。作者提出了 GhostVAE，一种通过在后变分自编码器（VAE）的编码器中植
Auditable Release Control for Pedagogical Leakage in LLM Tutors
该论文针对大语言模型（LLM）辅导系统中一类特殊的失败模式：模型给出的回答虽然正确且有帮助，却可能在未经授权的情况下提前泄露答案或关键推理步骤。作者将这种状态与动作相关的失败形式化定义为“教学泄漏”（pedagogical leakage）
Research Report: Testing and Evaluating Artificial Intelligence Applications.
本研究报告提出并演示了 TEAIS（Test and Evaluation of AI systems，AI 系统测试与评估）框架，这是一种用于评估大型语言模型（LLM）性能的原则性方法。作者通过一个教学示例详细阐述了 TEAIS 的运作流
Discovering Adversarial Driving Maneuvers against Autonomous Vehicles.
该论文针对自动驾驶车辆（AV）面临的新型安全威胁展开研究，聚焦于对抗性驾驶动作（Adversarial Driving Maneuvers）。传统上，对抗性攻击多针对感知系统（如摄像头、LiDAR）的输入扰动，而本文提出一种从车辆控制与规划
MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems
本文提出了一种针对基于大语言模型（LLM）的多智能体系统（MAS）中记忆投毒攻击的防御框架 MAPLE-Guard（Memory-Aware Propagation and Link Enforcement Guard）。研究背景是：随着
TI-StegoAlign: Channel-Guided Post-Training for Generative Text Steganography under Tokenization Inconsistency
本文提出了一种名为 TI-StegoAlign 的通道引导后训练框架，用于解决生成式文本隐写术在令牌化不一致条件下接收端恢复效果被高估的问题。现有生成式文本隐写方法大多基于发送端令牌评估恢复效果，但接收端实际观察到的是表面文本，经过解码和重
Trimming: Decoupling Multiplicative Depth from Modulus Chains in RNS-CKKS via Rational Levels
本文提出了一种名为Trimming的新型细粒度层级管理机制，旨在解决RNS-CKKS同态加密方案中乘法深度受限于模数链结构的问题。近期提出的Grafting技术成功将缩放因子与密文模数解耦，实现了更灵活的精度管理，但乘法深度仍然从根本上受制
Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Turn Attacks
本文针对大型语言模型（LLM）在多轮交互中面临的对抗性攻击持续演化问题，指出现有防御方法本质上是反应式的，难以应对攻击者在多轮对话中不断调整策略的复杂威胁。为此，作者提出了一种主动防御框架 CoopGuard，旨在通过跨多轮交互的干扰、误导
AgenticRepair: Multi-Faceted Program Context Engineering for Agentic Vulnerability Repair
本文提出了一种名为 AgenticRepair 的智能体漏洞修复框架，旨在自动化地从漏洞报告出发生成补丁，减少安全工程师的人工修复时间。作者指出，与通用程序修复相比，漏洞修复需要更丰富的程序上下文，而现有智能体方法未能充分利用这些上下文。具
Enforcing Cryptographic Distributed-VCS Access Control with No Trust on Servers
该论文针对分布式版本控制系统（DVCS）中访问控制机制缺失的问题展开研究。与集中式版本控制系统（CVCS）依赖中央服务器不同，DVCS中每个节点都保存完整仓库并独立共享，但现有访问控制方案均需要可信中央服务器参与，无法在完全分布式场景下部署
Alignment Is Local: A Paired Diagnostic for GUI Agents under User-Side Persuasion
本文研究GUI智能体（如移动设备上的自主操作代理）在真实部署中的对齐（alignment）鲁棒性问题。作者指出，当前主流的轻量级防御手段——提示词级对齐（prompt-level alignment）——是一种“局部现象”：它仅在狭窄的评估
Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory
本文研究大型语言模型（LLM）智能体的长期记忆机制引入的新安全风险：记忆来源清洗（memory provenance laundering）。在LLM智能体中，长期记忆允许智能体重用之前的偏好和工作流程，但同时也将不可信的观测内容转化为持久