HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
本文提出HarnessRisk，一个面向大语言模型（LLM）代理工具（agent harness）安全性的生命周期导向基准。研究背景：LLM越来越多地通过代理工具部署，这些工具负责管理工具调用、扩展、持久状态、权限和外部动作。现有安全基准大
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Incident-Data Robustness Analysis of the OWASP Top 10 for LLM Applications (2026): How a Community-Expert Ranking Holds Up Against a Large-Scale LLM Incident Corpus
本研究针对 OWASP Top 10 for LLM Applications 榜单，检验社区专家排名与真实世界 LLM 安全事件记录的一致性。作者从 CVE、GHSA、OSV 和 AIAAIC 等来源收集了大规模事件语料库，包含 7,71
Fair ASR: Re-Evaluating Black-Box Jailbreaks under Shared Target-Call Budgets
本文提出了一项针对大语言模型（LLM）越狱攻击评估方法的关键改进。当前大多数越狱研究仅以攻击成功率（ASR）作为唯一指标，忽略了攻击预算对结果的影响，导致不同攻击方法之间的比较缺乏公平性。已有的计算感知评估试图将异构资源统一折算为FLOPs
When Agents Act on Web3: An Attack-Surface Survey of MCP, Skills, and Tool Calling
该论文是一篇面向AI代理（AI Agent）在Web3环境中攻击面的系统性综述。研究背景是：AI代理正从“只读”转向“执行”，在模型上下文协议（MCP）生态系统中，能够修改外部状态的工具调用占比已从27%升至65%。当代理通过MCP、技能（
COMIC: Reference-Aware Safety Gating for Multimodal Large Language Models
本文针对多模态大语言模型（MLLM）在视觉输入场景下的新型安全风险展开研究。作者指出，在许多多模态越狱攻击中，单独的文本提示或图像本身并无危害，但当模型将一个看似无害的操作（如摘要、翻译、指令跟随）绑定到一个具体视觉目标时，不安全行为便会产
PACE: Policy-Attested Contract Execution for Safe AI Agents in Decentralized Finance
本文提出 PACE（Policy-Attested Contract Execution），一个面向去中心化金融（DeFi）中基于大语言模型（LLM）的自主智能体的交易级授权框架。研究背景在于：LLM 智能体在规划链上交易（如代币兑换、借贷
Fool's Gold: Defensive Deception Against Safety-Removal Attacks on Open-Weight Models
该论文提出一种针对开放权重语言模型安全对齐可被轻易移除问题的防御性欺骗方法。作者指出，通过“abliteration”技术，攻击者可以在几分钟内从模型权重中投影出拒绝中介方向，从而移除安全对齐，且目前没有发布时防御能持久阻止。论文的核心思想
Benchmarking the Benchmarks: Evaluating Automated Safety Benchmarks for Small Language Models
这篇 arXiv 论文系统性地评估了现有自动化安全基准在小型语言模型（SLM）上的适用性与可靠性。研究背景是：SLM 正越来越多地被部署在资源受限、对隐私敏感的场合（如边缘设备、本地推理），其安全性和偏见问题可能引发实际的安全与社会风险。然
The Acknowledgment Point Is the System: Durable Policy-Decision Receipts for AI Audit Evidence
本文针对AI审计记录在持久性和信任边界上的关键约束进行了深入探讨。作者指出，若在持久化写入前就返回受保护的决策，虽能最小化延迟，但无法保证证据在系统立即崩溃后仍然存活。为此，他们重新构建了RuntimeGuard-AI研究原型，将每个确定性
Authorization Before Context: A Model-Neutral Audience Boundary Against Cross-Audience Memory Leakage in Agentic Systems
该论文研究的是个人语言智能体（personal language agent）中的跨受众记忆泄露问题。作者指出，智能体可能从某一受众处学习到某个事实，随后在组装提示词时将其放入面向另一受众的上下文中，这一“记忆到上下文”的转换步骤构成攻击面
Structured Driving-State Narratives for Small Language Model-Based GNSS Spoofing Detection
该研究针对自动驾驶汽车（AV）依赖 GNSS 定位而易受欺骗攻击的问题，提出了一种基于小语言模型（SLM）的 GNSS 欺骗检测与分类框架。与以往直接分析原始信号或车辆状态的方法不同，该框架将来自 GNSS 和其他传感源（如惯性测量单元、摄
Steering the Flow: Inverting Face Recognition Models via Gradient-Guided Flow Matching
本文针对人脸识别系统中的模型逆向攻击（Model Inversion Attacks, MIAs）提出了一种新的两阶段白盒攻击方法——Steering Flow Model Inversion (SFMI)。模型逆向攻击旨在从训练好的识别模
Topological Attribution Distance (TAD): Revealing Segment-Level RAG Influence on LLM Output Geometry for Incident Log Analysis
本文提出了一种名为拓扑归因距离（Topological Attribution Distance, TAD）的新方法，用于解决大语言模型（LLM）在网络安全运营中输出证据归因与溯源的问题。随着LLM和Agentic AI被集成到安全运维系统
Ventor-QTest: Threat-Model-Driven Verification of Vendor-Hosted LLM APIs
随着大语言模型（LLM）的广泛部署，第三方供应商提供的开源权重模型推理服务已成为生态系统的重要一环，但对其推理 API 质量的审计仍然是一个开放问题。本文提出 Ventor-QTest，一种无需目标 API 提供任何概率信息的复合黑盒审计方
Probing the Prefill: Detecting Code Vulnerabilities via Latent Activations
该论文研究一个核心问题：当大语言模型（LLM）读取一段C/C++代码作为上下文时，其内部隐藏激活（hidden activations）是否已经包含关于该代码是否存在漏洞的信号，从而可以在不运行额外静态分析工具或微调分类器的情况下，直接利用
CompoSkill: Compositional Skill Chain Attacks from Individually Scanner-Passing LLM Agent Skills
本文研究自主AI智能体在长时程任务中依赖市场技能（marketplace skills）的安全认证盲区。当前生态采用逐技能扫描（per-skill scanner）：每个技能单独通过安全检测即视为整体安全。作者指出该假设在技能组合（skil
Securing AI-Generated Code: A Just-in-Time Vulnerability Detection and Remediation Pipeline
本文针对 AI 辅助开发工具生成代码中普遍存在安全漏洞、却缺乏在开发速度下自动检测、富化、修复和验证安全问题的机制这一痛点, 提出并评估了一套即时 (Just-in-Time) 漏洞检测与修复流水线。该流水线由多个阶段组成: 首先从 LLM
Measuring Obedience to Authority Across Large Language Models with the Milgram Paradigm
这篇 arXiv 论文将社会心理学中经典的米尔格拉姆服从权威实验移植到大语言模型（LLM）上，系统测量了 LLM 在权威指令下会执行多大程度的有害行为。作者设计了一个完全脚本化、可复现的测试框架：模型扮演“教师”角色，一个确定性的测试环境扮
Digital Twin Degradation: Detecting Cyber Physical Attacks via Temporal Inconsistencies
本文提出一种面向网络物理系统（CPS）的数字孪生（DT）安全监测框架。传统上，数字孪生被用于实时监控物理过程，但在对抗环境中，其保真度无法保证。通信延迟、数据篡改、传感器退化或部分信息丢失都会导致孪生状态与物理状态偏离，形成时间不一致性。作
Bounded Agents: Delegation Security for Multi-Agent AI Systems
该论文聚焦于多智能体人工智能系统中的委派安全问题。基于LLM的智能体可以代表用户访问云服务、调用工具或调用其他智能体。在会话开始时，智能体的权限被设定，但随后保持静态，每个请求被独立评估，而不考虑先前的操作。在其权限范围内，智能体可能做出与