AgentLSD: Evaluating AI Security Agents Under Adversarial Task Contamination
该论文研究 AI 安全智能体在「对抗性任务污染」(adversarial task contamination) 下的表现。作者指出，用于安全任务的智能体会读取网页、源代码、日志、配置文件与命令输出，而这些环境本身可能被植入具有欺骗性的证据
#LLM
共收录 2152 条相关情报。
← 返回所有主题Characterizing Network Centralization and Observability in the Remote MCP Ecosystem
该论文聚焦于 Model Context Protocol（MCP）从本地进程执行向远程 Streamable HTTP 部署演进过程中，整个生态在规模化后暴露出的架构集中度与安全可观测性问题。作者认为，MCP 已成为自治智能体连接外部数据
When Agents Look Like Beacons: NIDS Evasion by Model Context Protocol Traffic
该论文研究 Model Context Protocol (MCP) 在企业网络中造成的网络检测盲区。MCP 是用于标准化自主 AI 智能体与远程工具之间通信的协议，基于 Streamable HTTP 传输，会把机器生成、经过认证、高频的
Securing quantum error correction against misleading advice from AI agents
该论文研究一个 AI 与量子计算交叉的安全问题：攻击者能否通过影响 AI 顾问（AI adviser）的建议，诱导量子纠错（QEC）系统采纳有害的恢复（recovery）更新。作者首先指出了一个被忽视的信息歧义：在被动 syndrome（伴
ASLEval: Measuring Privacy Exposure Displacement in LLM Agent Sessions
该论文关注工具调用型 LLM 智能体（tool-using LLM agent）的隐私评估方法学缺陷。现有评估通常只检查某个被指定的动作、最终回复或攻击者报告，这类局部代理（local proxy）在多步会话中容易漏掉发生在其他位置的未授权
CASHEWS: Source Preprocessor for LLM-based Malicious Package Detection
该论文聚焦于基于大语言模型的恶意 npm 包检测中的一个关键盲区:LLM 的上下文窗口有限,而攻击者可以利用 JavaScript 混淆制造极高的 token 密度,或把恶意代码与良性代码打包(bundling)在一起,使文件体积膨胀、超出
PAPC: Platform Mediation for Privacy-Propagation Externalities in AI-Mediated Workflows
该论文研究的是 AI 中介平台（AI-mediated platform）中的隐私泄露新形态。在此类平台里，不同委托方（principal）由各自的 LLM 智能体代为行动，任务通过多智能体协作完成。作者指出：隐私损失并不只在最终答案生成时
Echo: Learning-based Matching Decompilation using Trusted Back Translation
本文提出 Echo，一个基于“可信反向翻译（trusted back-translation）”的匹配式反编译系统。研究背景是：神经反编译器虽能从二进制中恢复可读、可重新编译的源代码，但其输出缺乏可信度保证——模型可能生成语义上与原始程序不
CaMeLoT: CaMeL orchestrated with Temporal logic for static verification and liveness
LLM 智能体（agent）会生成并执行多步计划，计划中会调用外部工具；这些工具既可访问私有数据，也可执行命令。在此场景下，安全性并非某个单一步骤的属性，而是由计划所形成的整个执行过程的属性；计划本身就是关键工件，记录了工具调用、控制流与数
A Security Risk Assessment Framework for AI-Powered Development Tools
该论文关注 AI 编程助手大规模进入软件开发生命周期后带来的安全风险,但指出当前研究存在明显偏向: 大量工作聚焦于「AI 生成代码中是否存在漏洞」这一检测问题,而缺乏对漏洞严重性、任务语境与整体风险水平的系统化评估方法。为填补这一空白,作者
The Illusion of Local Privacy: Confidentiality Boundary Failures in Consumer LLM Serving Systems
该论文研究消费者本地 LLM 推理服务中"提示词机密性"的真实边界。业界普遍认为本地推理比云端推理更私密，因为提示词始终留在设备上。作者提出的核心问题是：推理本地化本身是否足以保证提示词机密性？结论是否定的——提示词机密性还取决于周边服务软
MiST: Mid-Training LLMs for Cybersecurity
网络安全领域兼具高风险决策属性与高度专业化的技术语言，对通用大语言模型构成显著挑战。该论文提出 MiST（Mid-trained Security Transformer），包含 8B 与 32B 两个参数规模的模型系列，均在公开网络安全基
Collective Loss of Control in LLM Agent Systems: An Epidemic Account of Mutation, Contagion, and Recovery
该论文提出用流行病学框架（accidental mutation / contagion / recovery，即意外突变、传染、恢复）来解释多智能体 LLM 系统如何从局部偏差演化为集体失控。核心论点是：单个智能体的偶发偏差充当“种子”，
AIJon: Automated Generation of Annotations for Fuzzing
该论文关注模糊测试（fuzzing）中的反馈引导问题。当前主流 fuzzer 以代码覆盖率为反馈来指导探索，这一策略被证明有效，但它会忽略那些不产生新代码路径、却仍对目标程序有意义的输入。此前 IJON 研究显示，由人类领域专家编写的注解（
The Verifiable Action Card: Trustworthy Human-in-the-Loop Control for Secure Autonomous Agents
这篇论文关注自主智能体（尤其是 agentic browser，即"智能体浏览器"）在执行安全敏感操作时的动作完整性问题。由于智能体浏览器运行在用户已认证的会话中，页面中的间接提示注入（indirect prompt injection）和
EvoSherlock: Towards Agentic Lifelong Evolution for Unseen Long-Tailed Security-Critical Events in Videos
该论文针对安全导向视频理解（SVU）系统在真实世界安全关键事件中面临的挑战，指出现有系统假设封闭世界（静态类别、充足标签、已知事件类型），而现实中的安全事件呈长尾分布、新类型持续涌现、关键事件样本稀少。为此，作者形式化定义了“视频中长尾安全
Who Audits Whom, on What Substrate, with What Evidence? An Independence-Graded Audit Protocol for Agentic AI
本文针对智能体式 AI（agentic AI）系统的审计独立性问题，提出了一套分级审计协议。当前智能体系统能够自主规划、调用工具并在有限监督下行动，它们既是被审计对象，也越来越多地充当审计者；然而作为保证体系基石的“独立性”仍被当作二元属性
Measuring and Exploiting Implicit Trust in LLM Tool-Calling Pipelines
该论文聚焦 MCP（Model Context Protocol）引入的一类被忽视的信任问题。MCP 让 LLM 能调用外部工具，但每一次工具交互都会把攻击者可控的文本通过多条输入通道注入模型：工具描述、工具返回结果、采样（sampling
QuanText: Protecting Dataset-Level Secrets in Textual Data Sharing
自然语言数据集被广泛用于模型训练与社会科学研究，但公开发布文本会泄漏数据源的整体统计属性（即“数据集级秘密”），例如某种性别、某种诊断或某种政治立场的记录占比。这类信息不属于任何单条记录，却可能暴露整个采集人群的敏感特征。现有研究多集中在属
When AI Agents Meet MEV: Cross-Chain Arbitrage in the Agentic Economy
该论文研究的是当「搜索者」从人类或自动化脚本变为自主 AI 代理时的跨链套利问题，属于 agentic economy 与 MEV（最大可提取价值）交叉领域。作者提出一个双向视角的建模框架：AI 代理既是套利的提取者，也可能成为 MEV 的