Permission Denied: Policy-Graded Evaluation of Coding Agents in Hardened Environments
本文研究编码代理（coding agents）在受企业安全策略约束环境下的性能表现。现实场景中，编码代理通常运行在具有受限凭据、限制出站流量、只读文件系统和非 root 执行等安全控制的组织中，但现有基准测试（如 Terminal-Benc
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Vulnerabilities, Secrets and Misconfiguration in the Highest-Exposure Docker Hub Images
本文针对 Docker Hub 容器镜像中普遍存在的安全漏洞、密钥泄露和错误配置问题，提出了一套大规模生态系统测量方法。研究背景是：Docker Hub 是大多数容器部署的底层镜像仓库，一个广泛使用的基础镜像一旦存在缺陷，将被所有基于其构建
Reputation-driven Cooperation in Lattice-based Decentralized Federated Learning through Evolutionary Game Theory
去中心化联邦学习（DFL）是一种无需中心服务器的隐私保护分布式机器学习范式，但缺乏中央协调器使得参与节点可能出现搭便车、不诚实协作等机会主义行为。演化博弈论（EGT）常用于分析这类行为的演化，然而先前研究往往假设智能体具有完全理性，且策略固
Decoy Images Amplify Caption-Mediated Defenses Against Encoded Jailbreaks
该论文报告了视觉语言模型（VLM）中图像输入与现有黑盒防御之间的一种反直觉交互。研究者发现，将一个编码的越狱提示与一张无关的诱饵图像配对，可以显著降低攻击成功率（ASR）。例如，在纯文本编码输入上几乎不改变ASR的字幕中介防御（ECSO），
CallScreenBench: Benchmarking On-Device Models as Phone Secretaries
该论文提出 CallScreenBench，一个用于评估端侧（On-Device）语言模型充当“电话秘书”能力的基准测试。研究背景是：随着可量化到数比特的小型语言模型在手机上运行，由其代表用户自动处理来电成为可能。与大多数基准测试中的智能体
From AI Technical Debt to Agentic Technical Debt: A Systematic Mapping of Root Causes and Manifestations in Agentic AI Systems
本文针对智能体AI（Agentic AI）系统的技术债务问题，首次系统性地提出了“智能体技术债务”（Agentic Technical Debt, AgTD）这一概念。传统AI技术债务（AITD）的研究主要基于静态的、组件级的软件架构，无法
An AI Approach to Verified Production Cryptographic Libraries
该论文提出 CryptoProver，一个基于人工智能的系统，用于自动合成密码学库的内部规范，并生成经过 Verus 验证的证明。研究背景是：密码学代码是关键基础设施，必须正确无误，但现有形式化验证生产库仍然困难。已有的基于语言模型的证明系
Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems
本文提出了一种面向开放数字孪生生态系统中可验证AI代理的神经符号化参与治理框架。研究背景是：随着大语言模型赋能的自主AI代理日益成为高价值决策支持系统的重要组成部分，在多机构、去中心化环境下，现有代理系统缺乏对身份、能力和策略合规性的强健验
Single Canonical Prompts Underestimate LLM Safety's Surface-Form Sensitivity
本文研究大语言模型安全评估中的一个核心方法论问题：基准测试通常以单一规范表面形式（canonical surface form）读取每个测试项目，但这是否能真实反映模型行为？作者提出，当保持项目意图不变、仅改变其保持语义的表面形式时，规范形
Assuming You Knew: Fixing an Epistemic Semantics for Flow Policies Using Agentic AI
该论文针对程序信息流策略的语义形式化问题进行修正与验证。许多高级安全需求涉及程序中允许的信息流动，但由于存在选择性降级（selective downgrading）而难以精确表达。认识逻辑（epistemic logic）中的概念被视为一种
Similarity Weighted Aggregation with Global Differential Privacy for Federated Brain Lesion Segmentation
本文提出了一种面向联邦学习场景的隐私保护框架 DP-SimAgg，用于解决医学影像中脑病灶分割任务。联邦学习允许多家医疗机构在不共享原始数据的情况下协作训练模型，但由于不同机构的数据分布存在异质性（非独立同分布），且模型更新可能间接泄露患者
When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic Systems
本文研究了大语言模型（LLM）被集成到自主机器人系统中进行任务规划与控制时面临的安全威胁，重点聚焦于提示注入攻击在多智能体机器人系统中的影响。随着LLM在机器人领域的广泛应用，攻击者可以通过注入恶意指令操纵机器人的决策，导致不安全行为甚至物
Adversarial Attacks in Multi-Agent LLM Pipelines: Unveiling Structural Vulnerabilities in Agentic AI Architectures
本研究聚焦于多智能体大语言模型（LLM）流水线中存在的结构性安全漏洞。多智能体LLM流水线将多个专用语言模型智能体编排为结构化工作流，中间输出在智能体之间传递以解决复杂任务。这种设计引入了单智能体场景中不存在的新型安全缺口：一旦某个智能体接
Supporting Cybersecurity Risk Management for Medical Devices via the SECUMAN Ontology and Shapes
该论文提出了一种名为 SECUMAN 的本体（ontology）和形状（shapes），用于表示和分析医疗器械的网络安全风险管理文档。随着联网医疗器械日益普及，网络安全风险对患者安全构成直接威胁，而当前的风险管理文件通常以半结构化自然语言文
From Chasing Ghosts to Missed Attacks: Perspectives and Perceptions of SOC Practitioners on LLM Integration, Risks, and Readiness
本文针对大型语言模型（LLM）在安全运营中心（SOC）实际工作流中的适用性问题，开展了一项实证研究。研究背景是SOC分析师需要处理海量安全事件，并在时间压力下准确检测和评估网络攻击；虽然LLM在安全运营方面展现出潜在价值，但其现实应用效果与
A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense
该论文针对链式思维（Chain-of-Thought, CoT）监控的鲁棒性展开研究。CoT监控旨在通过检查智能体的推理过程来识别奖励黑客行为（reward hacking），因为这类攻击在动作层面可能表现正常，仅在推理中暴露意图。然而作者
Robust Watermarks Meet Backdoored Models: Evading Diffusion Semantic Watermarks via Stealthy Backdoor
本文研究了扩散模型语义水印系统的一个关键安全漏洞。语义水印被广泛用于保护潜在扩散模型（LDM）生成的图像版权，但其检测流程依赖神经网络，这引入了被植入后门的攻击面。作者提出了 GhostVAE，一种通过在后变分自编码器（VAE）的编码器中植
Auditable Release Control for Pedagogical Leakage in LLM Tutors
该论文针对大语言模型（LLM）辅导系统中一类特殊的失败模式：模型给出的回答虽然正确且有帮助，却可能在未经授权的情况下提前泄露答案或关键推理步骤。作者将这种状态与动作相关的失败形式化定义为“教学泄漏”（pedagogical leakage）
Exposed by Design: A Dynamic Security Assessment of Internet-Facing MCP Servers at Scale
本文首次对互联网上暴露的 Model Context Protocol (MCP) 服务器进行大规模动态安全评估。MCP 自 2024 年 11 月发布以来迅速普及，公共互联网上可检测到超过 21,000 个服务器实例。作者结合被动发现与主
Symbolic Attack Chain Generation from Atomic Red Team Techniques: An Empirical Study of Predicate Representation Granularity
摘要：现代网络安全中，自动化攻击链生成对防御和安全评估至关重要，但人工构建无法应对攻击行为的快速增长。经典AI规划（如PDDL）提供了一种形式化自动生成攻击链的方法，但其效果依赖于将攻击技术准确翻译为符号谓词的粒度。当前最先进的系统如AUR