Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems
本论文针对检索增强生成（RAG）系统中的安全性与可靠性缺口展开研究。RAG 通过引入外部知识来增强大语言模型（LLM）的输出，但现有系统往往盲目信任检索结果，导致高语义相关性并不保证事实真实性，从而形成安全-可靠性缺口。攻击者可利用知识投毒
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题$Z^2$-ACT: End-to-End Verifiable Agentic Intent Control for Open 6G RAN
该论文针对开放与解耦的6G无线接入网（RAN）中多供应商共存场景下的AI辅助控制安全问题，提出了一种名为Z²-ACT（零知识可审计控制与零信任可验证智能体意图架构）的端到端解决方案。随着6G RAN走向开放化和虚拟化，网络需要承载来自不同厂
Structured but Fragile: On the Limits of LLMs in Cybersecurity Decision-Making
该论文系统性地评估了大型语言模型（LLM）在网络安全决策任务中的结构化推理能力，特别是在防御选择场景下的表现。研究基于真实威胁场景（包括勒索软件、供应链入侵、云滥用、Kubernetes攻击、POS恶意软件以及ICS/OT入侵）生成的攻击图
Vibe Coding and Web Application Security: A Twin-Prompt Study
本研究聚焦于“Vibe Coding”这一新兴开发范式，即通过自然语言提示由大语言模型直接生成完整Web应用程序，并探讨一个核心问题：在提示中显式加入安全需求说明，是否能够显著提升生成代码的安全性。作者设计了双提示词对照实验，选取六个功能各
ARQ: Agentic CodeQL Query Refinement for C/C++ Vulnerability Detection
本文提出 ARQ，一个基于智能体（agent）的自动化框架，旨在优化 C/C++ 程序的 CodeQL 漏洞检测查询，以降低误报（FP）和漏报（FN）。现有查询型静态分析器（如 CodeQL）通过预定义的漏洞模式查询来匹配源码，但官方查询仍
Beyond End-to-End Success: Diagnosing Failures in Long-Horizon Security LLM Agents
长时程安全 LLM 代理需要在多次依赖交互中持续携带信息和决策，后续动作常常依赖于早期发现的服务、状态或访问权限，这使得最终任务成功率难以解释：代理很可能在测试目标能力之前就已失败。本文提出一种诊断方法论，通过为安全任务插入检查点（chec
AEGIS: Preventing Cross-Domain Resource Abuse in MCP
本文提出 AEGIS，一个针对 Model Context Protocol（MCP）的跨域资源滥用防护策略执行组件。MCP 是一种开源的 JSON-RPC 协议，用于标准化大语言模型（LLM）与外部系统之间通过工具（tools）进行的交互
QUASAR: A Quantum-Classical Neural Network for SAR Satellite Physical-Layer Authentication
本文提出 QUASAR，据作者所知这是首个面向 X 波段合成孔径雷达（SAR）卫星物理层认证（PLA）的量子-经典混合架构。X 波段 SAR 卫星（8-12 GHz）在灾害响应、环境监测和军事侦察中至关重要，但缺乏与密码学机制正交的物理层认
EchoCoT: Extracting Hidden Chain-of-Thought from Large Reasoning Models
该论文研究了一个此前被忽视的安全问题：能否通过黑盒API交互，从前沿专有大型推理模型（LRM）中近乎逐字地提取隐藏的思维链（Chain-of-Thought, CoT）。隐藏CoT被视为模型的核心资产，尤其是商业模型内部的推理过程，过去普遍
MaliciousSkillBench: A Comprehensive Benchmark for Malicious Agent Skill Detection
该论文提出 MaliciousSkillBench，一个专门用于恶意 Agent Skill 检测的综合基准。Agent Skills 为大型语言模型代理提供可重用的指令包，并可能包含脚本、资源和服务配置，这为恶意行为创造了直接的分发渠道。
Beyond the Transcript: Detecting Covert Co ordination in Latent Multi-Agent Communication
该论文聚焦于多智能体语言模型（LLM）在连续隐藏状态空间中的潜在通信问题。这类通信不体现在公共文本转录中，可能被用于隐蔽的有害协调，例如在拍卖中串通压低报价。作者提出了一种名为 Verifiable Latent Alignments (V
From Threat Intelligence to Detection: Knowledge-driven Enrichment and Template-based Rule Grounding for Automated Sigma Rule Generation
该论文提出 AUTOSIGMA，一个将非结构化网络威胁情报（CTI）报告自动转换为 Sigma 规则的解决方案。针对高级持续性威胁（APT）快速演变下，传统人工编写 Sigma 规则容易出错、依赖专家知识且难以扩展的问题，AUTOSIGMA
CTIFoundry: An Agent-Native Corpus Scaffold for Cyber Threat Intelligence
该论文提出 CTIFoundry，一个面向智能体（agent）的网络安全威胁情报（CTI）语料库脚手架。研究背景是：CTI 的消费正从人类分析师转向 LLM 智能体，后者在查询时组合多步调查流程。虽然智能体侧的规划循环、工具协议、上下文管理
Denoising-Aware Inversion: Revealing Privacy Risks in Noise-Protected Text Embeddings
本文研究噪声保护下的文本嵌入反演攻击问题。文本嵌入被广泛用于数据挖掘、检索和机器学习系统，但近期的嵌入反演攻击表明，攻击者可以从嵌入向量中重建原始文本的敏感信息，造成严重隐私泄露。一种常见的防御手段是向嵌入向量中添加高斯噪声以扰动输出，该方
Task-Conditioned Least-Privilege Learning for Executable Terminal and MCP Agents
本文研究面向可执行终端与模型上下文协议（MCP）环境中工具使用型大语言模型（LLM）代理的最小权限学习问题。LLM 代理在执行任务时，可能行使超出用户授予或任务所需的权限，导致“过度授权”错误。传统的权限门控系统在验证代理环境时存在不足，因
Evaluating Structured Information Extraction with Open Models in a High Risk Public Sector Application
本文针对公共部门中高风险场景下的结构化信息抽取任务，系统评估了开源模型（OCR引擎、大语言模型LLM和视觉语言模型VLM）的端到端性能。研究背景是，虽然专有方案在商业应用中占主导，但开源组件组合成的抽取流水线正成为可行替代，然而在真实多步骤
Redakto - The Incognito Tab for LLMs
本文提出并实现了一个名为 Redakto 的开源工具，旨在解决大型语言模型（LLM）使用过程中的隐私保护问题，特别是针对欧盟新法规下个人可识别信息（PII）泄露的风险。随着 LLM 在各类应用中的普及，输入文本可能包含敏感信息，直接提供给模
The Model's Tell: Measuring Context-Leakage Attack Signals with Behavior Gauges
本文研究大语言模型（LLM）在依赖外部上下文（如系统提示词、检索文档）时面临的信息泄露风险。已有研究表明，模型内部隐藏状态中会浮现与泄露相关的信号，但提取这些状态在实际部署中较为困难。作者尝试探究：在解码之前，该内部信号是否会留下更易获取的
Benchmarking Automated Security Patch Backporting: How Far Are We?
该论文研究了自动化安全补丁回溯移植（backporting）这一关键问题。安全补丁回溯移植是指将针对新版本软件的安全修复代码移植到旧版本或不同分支，以缓解N-day漏洞。以往研究的工具在各自数据集上宣称成功率超过80%，但这些评估往往局限于
MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps
本文提出 MobileWorldSafety，一个专门用于评估 Android 图形用户界面（GUI）智能体在环境注入攻击下安全性的基准测试。随着大语言模型（LLM）驱动的 GUI 智能体从研究原型走向真实部署，它们需要处理大量不可信的外部