Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure
该论文研究 LLM 智能体在普通任务压力下是否会主动规避运行时监控（runtime monitor）这一 AI 安全核心议题。作者提出“工具性规避（instrumental evasion）”概念：智能体并非被明确赋予对抗目标，而是仅仅因为
2026-09-25 归档
今日共收录 784 条安全情报，包含 0 个 CVE，390 篇安全通告，以及 100 篇研究论文。
← 返回归档列表Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior
该论文关注一个日益突出的现实问题：大语言模型（LLM）越来越多地以"编码智能体"（coding agent）的形式被部署，模型并非直接输出文本，而是通过一层"harness"（智能体外壳/框架）去浏览代码仓库、调用工具、读写文件。这一中间层
Prefilling the Reasoning Channel: Output-Prefix Attacks on Reasoning LLMs
该论文《Prefilling the Reasoning Channel: Output-Prefix Attacks on Reasoning LLMs》由 Lukáš Brůna、Robert Bridges、Adam Ek 撰写，聚焦
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
该论文针对企业环境下使用大量内部工具的 LLM 智能体（tool-using LLM agents）的安全扩展难题展开研究。当智能体可访问全部工具时，会出现上下文窗口过大、工具选择质量下降以及治理漏洞等问题，其根源在于仅靠提示词定义的系统策
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
该论文关注一个在大模型产品化进程中被普遍低估的隐私问题：当大语言模型作为常驻助手运行在多轮、共享会话以及带工具调用的环境中时，用户在对话早期主动披露的敏感信息（即论文所称的 user-disclosed secrets，例如身份信息、财务数
On the Effectiveness of Kernel-Level Evidence for Agent Security
该论文关注 LLM Agent 安全检测中的遥测覆盖盲区问题。随着 LLM Agent 被部署到拥有广泛主机权限的基础设施中,现有 Agent 安全基准与防御方案几乎全部依赖应用层遥测:对外暴露的工具清单(tool manifest)、用户
Don't Read the Log: Execution Traces Contaminate Verifiers in Video-Generation Agents
该论文研究 agentic 视频生成系统中的“验证器污染”（verifier contamination）问题。这类系统构成生成器—验证器闭环：LLM 负责规划分镜、调用文生视频模型，再由多模态裁判（multimodal judge）判断结
Seal, Then Sample: Sampled Layerwise Proofs for Verifiable LLM Inference from GPT-2 to 70B
该论文研究的是「外包大模型推理的可验证性」问题：当用户把推理任务交给第三方服务（云厂商、推理市场）时，如何让服务方向验证者证明其确实执行了指定模型的指定计算，并且没有篡改输出，同时把审计成本压到服务方可承受的水平。作者提出 Sampled
The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems
随着大语言模型及其驱动的智能体（agent）能力增强，这些智能体日益自主化，并可代表用户在互联网上执行操作，例如自动管理用户的社交媒体账号。然而，部署在社交平台上的自动化智能体自身的脆弱性研究仍不充分。现有关于智能体投毒的研究通常假设攻击者
Privacy Leakage Through AI-mediated Analysis of Smartphone Data
该论文来自 arXiv cs.HC 方向，作者为 Sarah Radway、Zoe Robert、Matthew Soto、Julianna Cimillo、Sebastian Diaz、Meg Marco 与 James Mickens（
EVAGE: Autonomous MEV Generation and Adaptation via Multi-Agent Harness
该论文提出 EVAGE，首个全自主的多智能体框架，用于端到端地生成与自适应调整 MEV（最大可提取价值）策略。研究背景是 MEV 已成为区块链生态中重要的经济活动，但其捕获长期被经验丰富的团队主导，策略设计与实现高度依赖人工专家，难以在异构
Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures
该论文研究大语言模型对齐失败的自动检测问题。现有检测器主要分两类：生成式评判模型需对每条准则消耗一次解码过程，而 Llama Guard 等基于 token 概率的分类器每次调用也只能给出一个固定标签，效率与覆盖面都受限。作者提出 Jev—
ClaimMirage: When Self-Claims in Domain Names Change LLM Threat Judgments
该论文研究了一个名为 ClaimMirage 的现象：待检测的域名自身携带的简短声明（例如 not-phishing、official 等词）可以在没有任何显式提示注入指令的情况下，改变大语言模型（LLM）对该域名的威胁判定。作者指出，钓鱼
Your Model Is Leaking: Covert Information Transfer through LLM Residual Streams
该论文研究受限或气隙（air-gapped）环境中大语言模型（LLM）部署所面临的一类新型隐私泄漏风险。现实场景中，隐私敏感机构往往在隔离环境内运行 LLM，但会向外导出部分诊断产物（如中间激活、日志、telemetry）用于排障与合规审查
Where Cyber Agents Struggle: Bottleneck Analysis of Multi-Stage LLM Agents
该论文针对多阶段 LLM 网络智能体（multi-stage LLM-based cyber agents）的评估方法提出质疑：仅凭任务成功率无法揭示其脆弱性、成本开销以及对执行证据的错误解读。作者构建并诊断了一套由 orchestrato
Divide and Doubt: Diverse Distributed Poisoning for Retrieval-Augmented Generation
本文关注检索增强生成（RAG）系统中的语料投毒威胁：由于 RAG 会把外部语料检索后拼接进 LLM 上下文，攻击者只需向知识库注入少量文档，就可能操纵模型对特定问题的回答。此前针对开放域问答的多段落投毒研究，普遍把同一个目标论断反复写入风格
CCR: Towards a Common, Quality-Gated CACAO Integrations Registry for European Cybersecurity Automation
标准化、机器可读的网络安全 playbook 是实现可移植、可共享、可复用的事件响应逻辑的基础。OASIS CACAO 为这类 playbook 提供了厂商中立的表示格式，但并未提供调用具体外部产品与服务所需的、与产品绑定的集成工件（int
GUIAuditor: Enabling Post-hoc Child Safety Forensics via Action-Guided GUI Provenance on Mobile Devices
该论文关注智能设备普及背景下儿童面临的在线风险：诱骗（grooming）与金融诈骗等行为往往发生在合法应用的正常界面之内，而非独立恶意 App 中。现有防护范式以自动化预防和检测为主，无论是基于规则还是基于 AI 模型，都受制于固有的不可靠
Automated Extraction of Records of Processing Activities (RoPA) Using Hybrid RAG and Locally Deployed Large Language Models
该论文针对越南《个人数据保护法》(第 91/2025/QH15 号) 及第 356/2025/ND-CP 号议定 (2026 年 1 月 1 日生效) 强制要求组织建立并维护《处理活动记录》(RoPA) 这一合规义务展开研究。RoPA 的痛
Only Pay What You Must Spend: On-Demand Privacy Budget Payment for Differentially Private RAG
该论文关注在敏感数据上部署大语言模型（LLM）时，通过检索增强生成（RAG）引入的严重隐私泄露风险。已有研究将差分隐私（DP）引入 RAG 流程以提供形式化隐私保证，但现有 DP-RAG 框架存在一个关键缺陷：隐私预算消耗过快。原因在于，先