Measuring Security Without Fooling Ourselves: Why Benchmarking Agents Is Hard
本文聚焦于评估AI智能体在安全关键角色中的基准测试所面临的严重缺陷。作者基于最新实证证据，总结了三大核心挑战：基准漏洞（benchmark vulnerabilities）、时间陈旧性（temporal staleness）和运行时不确定性
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题A Constant-Time Implementation Methodology for Activation Functions on Microcontrollers
本文针对嵌入式微控制器（如ARM Cortex-M4）上神经网络推理过程中的激活函数（ReLU, sigmoid, tanh, GELU, Swish）存在的时序侧信道泄露问题，提出了一种常量时间（constant-time）实现方法。该方
Characterizing the Fault Response of the Intel Neural Compute Stick 2 Under Single-Pulse Electromagnetic Fault Injection
本研究针对 Intel 神经网络计算棒 2 (NCS2) 中的 Myriad X VPU，开展了系统性的单脉冲电磁故障注入 (EMFI) 实验。作者在 OpenVINO 运行时上运行了三个 ImageNet 训练的卷积神经网络（ResNet
TimeGuard: Channel-wise Pool Training for Backdoor Defense in Time Series Forecasting
时间序列预测（TSF）在众多领域（如金融、气候、工业监控）中发挥着关键作用，但容易受到后门攻击的威胁。然而，针对TSF的后门防御研究仍处于起步阶段，主要面临两大挑战：数据纠缠（data entanglement）导致不同时间序列通道间的信号
Benchmarking Autonomous Agents against Temporal, Spatial, and Semantic Evasions
本文针对基于大型语言模型（LLM）的自主智能体系统（如OpenClaw）中存在的安全漏洞进行了深入研究。现有漏洞分析大多集中在单轮、无状态的行为上，忽略了有状态多轮交互和动态工具调用带来的扩展攻击面。为此，作者提出了一种多维度逃避框架，包含
Adversarial Trust Poisoning in Vehicular Collaborative Perception
该论文研究了协作感知（CP）系统中的信任机制安全性。协同感知允许联网自动驾驶车辆共享传感器数据并联合推理环境，现有的防御机制通过跨车辆不一致性检测和信任估计来惩罚与多数观察冲突的车辆。然而，本文指出这类防御本身引入了新的攻击面。作者提出Tr
Safeguarding Text-to-Image Generative Models Against Unauthorized Knowledge Distillation
本文针对文本到图像生成模型（如 Stable Diffusion）在作为云端 API 服务部署时面临的模型窃取攻击展开研究。攻击者可以通过反复查询 API 收集大量生成的合成图像，并用这些图像训练私有替代模型，从而实现未经授权的知识蒸馏和能
Secure and Parallel Determinant Computation for Large-Scale Matrices in Edge Environments
本论文针对边缘计算环境中资源受限客户端需要委托大规模矩阵行列式计算（MDC）的安全性与效率问题，提出了一种安全并行行列式计算框架（SPDC）。在物联网等场景下，传统行列式算法的立方复杂度无法满足实时处理需求，且数据隐私和结果完整性至关重要。
Blind Spots in the Guard: How Domain-Camouflaged Injection Attacks Evade Detection in Multi-Agent LLM Systems
该论文研究了多智能体LLM系统中的注入攻击检测盲点。现有注入检测器主要针对静态、模板化的载荷进行校准，这些载荷通常以显式的覆盖指令形式出现。作者识别出一种系统性盲点：当注入载荷生成时模仿目标文档的领域词汇和权威结构（称为领域伪装注入），标准
PocketAgents: A Manifest-Driven Library of Autonomous Defense Agents
本文提出 PocketAgents，一个基于清单（manifest）驱动的自主防御代理库，旨在将大语言模型（LLM）与防御执行决策安全地连接起来。现有方法仅依靠模型回答是否发生攻击，但防御者需要决定模型输出中哪些可以改变系统状态、哪些必须拒
Detecting Trojaned DNNs via Spectral Regression Analysis
现代深度神经网络（DNN）通过反复微调来融入新数据与功能，但这种演进工作流引入了安全风险：当更新数据不完全可信时，攻击者可能在微调过程中植入后门（Trojan）。现有的后门检测方法通常需要重建触发器或依赖干净验证集，假设条件强且计算开销大。
Comparative Evaluation of Deep Learning Models for Fake Image Detection
该研究针对基于GAN的图像篡改技术日益成熟带来的数字取证挑战，系统比较了四种预训练CNN架构（VGG16、ResNet50、EfficientNetB0和XceptionNet）在假图像检测任务中的性能。通过统一的预处理和训练流程，对真实与
GenAI-Driven Threat Detection with Microsoft Security Copilot
该论文针对当前日益复杂的网络攻击环境下，安全分析师需要不断将攻击者不断演进的战术转化为检测逻辑，导致防御者处于被动应对状态的问题。作者提出了一种名为动态威胁检测代理（DTDA）的持续自适应系统，该系统集成于Microsoft Securit
Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs
多模态大语言模型（MLLMs）尽管性能强大，但仍易受基于迁移的目标攻击：攻击者在开源代理编码器上优化扰动，该扰动可泛化至闭源MLLMs。提升对抗迁移性的关键在于有效捕获不同模型共享的内在视觉焦点，使扰动对齐可迁移的语义线索而非代理特定行为。
An Application-Layer Multi-Modal Covert-Channel Reference Monitor for LLM Agent Egress
该论文提出了一种针对大语言模型（LLM）代理出口流量的应用层多模态隐蔽信道参考监视器。研究背景是：LLM代理在发送消息时可能泄露数据，传统的目标允许列表和内容扫描器无法检测看似正常的载荷是否构成隐蔽信道。例如，被攻陷的代理可以将比特编码在零
Heartbeat-Bound Hierarchical Credentials: Cryptographic Revocation for AI Agent Swarms
该论文针对自主AI代理生成子代理集群时存在的安全漏洞——现有凭证撤销机制（如OAuth 2.0 introspection、OCSP、W3C状态列表）需要与中心权威机构网络连接，导致操作员关闭后“僵尸代理”仍可执行特权操作数分钟至数小时——
Trusted Weights, Treacherous Optimizations? Optimization-Triggered Backdoor Attacks on LLMs
该论文首次揭示了LLM推理优化（尤其是编译优化）中存在的安全漏洞，并提出了一种新型后门攻击——优化触发后门。作者指出，尽管编译优化在部署LLM时广泛使用，且默认假设编译后的计算图与原始计算图语义等价，但编译过程中的数值副作用可能被恶意利用，
Security Document Classification with a Fine-Tuned Local Large Language Model: Benchmark Data and an Open-Source System
本文解决了组织在扫描文档敏感信息时面临的实际问题：云服务需要将数据发送到外部基础设施，而基于规则的检测工具往往漏掉依赖上下文的威胁。为此，作者提出了TorchSight——一个基于微调本地大语言模型（Qwen 3.5 27B）的开源安全文档
Causal Unlearning in Collaborative Optimization: Exact and Approximate Influence Reversal under Adversarial Contributions
该论文提出了一种高效的联邦学习因果遗忘方法 HF-KCU，用于在不完全重训练的情况下移除特定客户的数据贡献，以满足隐私法规（如 GDPR）的数据删除要求。传统方法从头重训练计算成本极高（O(d^3)），而 HF-KCU 通过 Krylov
LLM Benchmark Datasets Should Be Contamination-Resistant
本文探讨了大型语言模型（LLM）基准数据集被预训练语料库污染的问题。污染导致基准数据集无法可靠衡量模型的泛化能力。作者提出基准数据集应具有“抗污染”特性，即数据集对训练不可学习（unlearnable），但支持推理（inference）。为