Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback
本文研究了大型语言模型（LLM）代理在使用外部工具时面临的一种新型安全威胁：认知中毒（cognitive poisoning）。在这种攻击场景下，恶意工具在探索阶段表现得合理且有用，通过提供看似无害的反馈逐步积累代理的信任，只有当隐藏状态条
#LLM
共收录 2152 条相关情报。
← 返回所有主题ContraFix: Agentic Vulnerability Repair via Differential Runtime Evidence and Skill Reuse
本文提出了一种名为 ContraFix 的自动化漏洞修复（AVR）智能体框架，旨在解决当前基于大语言模型（LLM）的智能体在修复真实世界漏洞时存在的两个核心问题：语义误解和技能复用不足。现有智能体通常仅从单一失败执行（如崩溃报告）进行推理，
Ablating Safety: Mechanisms for Removing Alignment in Language Models for Security Applications
本文研究了如何安全地移除语言模型中的安全对齐机制，以用于授权的网络安全任务。安全对齐的模型通常会对看似滥用的网络安全请求（即使实际上是被授权且防御性的）进行拒绝，导致安全评估模糊不清——失败的回答可能源于能力不足或拒绝策略干预。作者提出将对
Rethinking Side-Channel Analysis: Automated Discovery and Analysis of Side-Channel Leakage with LLM-Assisted Agents
本文针对侧信道分析领域长期存在的挑战——手动分析效率低、依赖预定义目标事件和已知信道、难以规模化——提出了一种名为SCAgent的自动化框架。该框架利用LLM（大型语言模型）驱动的智能体，通过系统探索自动识别敏感事件（如用户或系统行为），避
ADR: An Agentic Detection System for Enterprise Agentic AI Security
本文提出了Agentic AI Detection and Response (ADR) 系统，这是首个大规模、经过生产验证的企业级AI代理安全框架，专门用于保护通过Model Context Protocol (MCP) 运行的AI代理。
LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails
本文提出了一种名为潜在策略护栏（Latent Policy Guardrail, LPG）的框架，旨在解决大语言模型（LLM）作为定制化助手部署时面临的安全策略动态变化问题。传统护栏通常需要针对固定策略重新训练，难以适应推理时由用户、组织或
ASPI: Seeking Ambiguity Clarification Amplifies Prompt Injection Vulnerability in LLM Agents
本文研究了大型语言模型（LLM）代理（agent）在寻求澄清（clarification-seeking）行为下的安全性问题。澄清行为通常被视为代理的理想属性，允许其在执行不明确任务前先解决歧义。然而，作者发现这种交互模式会显著增加代理对提
When Efficiency Backfires: Cascading LLMs Trigger Cascade Failure under Adversarial Attack
该研究首次系统性地揭示了大型语言模型（LLM）级联系统在对抗性攻击下的脆弱性。LLM级联系统通过轻量级模型处理常规查询，仅将复杂请求转发给更强大的模型，旨在平衡效率与性能、降低计算成本和延迟。然而，这种级联设计引入了新的攻击面：前端轻量模型
PrivacyOracle: Configuring Sensor Privacy Firewalls with Large Language Models in Smart Built Environments.
该论文针对现代智能建筑与环境中传感器基础设施的隐私合规问题展开研究。随着传感器数量和依赖传感器数据的服务激增，居民面临大量隐私决策，难以有效管理个人信息流，导致无法充当自己的“隐私防火墙”。现有方法要求用户对隐私法规进行定性推理、理解隐私敏
Integration of AI in Cybersecurity: Current Trends with a Focused Look at Intrusion Detection Applications
本文是一篇关于人工智能（AI）在网络安全领域应用的综述性研究，重点聚焦于入侵检测场景。文章首先指出，AI因其在模式识别、任务自动化以及降低时间与成本方面的能力，已被广泛应用于多个领域。在网络安全中，AI的整合引起了广泛关注，尤其是在入侵检测
STRIDE-AI: A Threat Modeling Framework for Generative AI Security Assessment
本文提出STRIDE-AI框架，旨在解决传统网络安全方法论在应对生成式AI系统概率性质时的不足。研究背景指出，现有安全标准（如NIST AI RMF）和漏洞分类（如OWASP LLM Top 10）之间存在鸿沟，且多数部署AI的组织缺乏专用
New Wide-Net-Casting Jailbreak Attacks Risk Large Models
该论文旨在探索一种被忽视的越狱攻击场景——宽网投射（wide-net-casting），即攻击者并非只针对单个大语言模型，而是同时查询一组模型来诱导有害输出。作者指出，现有越狱研究大多聚焦于单模型场景，而实践中攻击者往往能并行访问多个模型（
A Red Teaming Framework for Evaluating Robustness of AI-enabled Security Orchestration, Automation, and Response Systems
该论文提出了一种面向AI驱动的安全编排、自动化和响应（SOAR）系统的自主红队框架，旨在评估此类系统对自适应对手的韧性。现有研究鲜少探索SOAR系统在面对复杂、多阶段攻击时的表现。作者将大型语言模型（LLM）与强化学习（RL）相结合，构建了
The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort
本论文复现并扩展了 Spracklen 等人 (USENIX Security '25) 关于代码生成大语言模型 (LLM) 产生包名幻觉的研究。Spracklen 的工作表明，LLM 在生成 Python 或 JavaScript 代码时
Privacy Policy Enforcement Guardrails for Data-Sensitive Retrieval-Augmented Generation
该论文针对检索增强生成（RAG）系统中的隐私泄露问题，指出传统PII过滤器容易忽略上下文数据泄露，例如通过非受管属性聚类可识别个人身份。作者提出了一种隐私政策执行（PPE）框架，采用双单类密度估计器，融合文本嵌入，并引入校准的拒绝区域以处理
Securing LLM Agents Need Intent-to-Execution Integrity
本文是一篇立场论文，旨在为大型语言模型（LLM）智能体建立端到端的安全正确性定义。作者提出，现代LLM智能体运行在一个“意图到执行”的流水线上：用户以自然语言表达意图，智能体将其翻译为具体的系统操作（如工具调用、API请求和代码执行）。当前
Harnessing Vital Sign Vibration Harmonics for Effortless and Inbuilt XR User Authentication.
随着扩展现实（XR）头戴设备日益成为大量敏感数据的存储库和Web应用的入口，确保用户身份认证的安全与便捷变得至关重要。传统的密码/PIN方案不适合XR的基于手势和语音的交互界面，且容易受到肩窥攻击；部分新系统引入了双因素认证，但需要第二设备
GRID: Graph Representation of Intelligence Data for Security Text Knowledge Graph Construction
安全知识图谱能为安全智能体提供可计算的外部记忆，但从长篇网络威胁情报（CTI）文本中构建知识图谱面临挑战：大语言模型（LLM）缺乏扎实的安全领域知识，且端到端的文档-图谱训练难以用廉价稳定的奖励进行监督。本文提出 GRID（Graph Re
\textsc{PrivScope}: Task-scoped Disclosure Control for Hybrid Agentic Systems
本文提出PrivScope，一种针对混合本地-云端智能体系统的任务范围披露控制机制。在混合智能体系统中，本地代理会收集用户请求的上下文（包括持久工作状态）以增强任务完成度，但这也导致了过度披露问题——云端负载中包含了与当前任务无关的敏感信息
SLEIGHT-Bench: A Benchmark of Evasion Attacks Against Agent Monitors
本文提出了 SLEIGHT-Bench（Subtle Low-itEration Insight-Guided Harmful Transcripts），一个用于评估 AI 编码代理监控器规避攻击的基准测试。随着自主编码代理产生大量复杂行为