Don't Read the Log: Execution Traces Contaminate Verifiers in Video-Generation Agents
该论文研究智能体式视频生成系统中的验证器污染问题。在这类“生成器—验证器”闭环中,LLM 先规划分镜并调用文生视频模型,再由多模态评审模型判断产出是否满足用户要求。为便于定位长流程中的失败环节,近期评测框架会有意把视频之外的信息一并交给评审
2026-09-27 归档
今日共收录 1038 条安全情报，包含 222 个 CVE，481 篇安全通告，以及 74 篇研究论文。
← 返回归档列表On the Effectiveness of Kernel-Level Evidence for Agent Security
该论文聚焦于 LLM Agent 安全监测中的一个关键盲区：当前绝大多数 Agent 安全基准与防护方案都建立在应用层遥测之上，即所暴露的工具清单（tool manifest）、用户提示词以及模型消息序列。作者指出，这种单层视角存在结构性缺
LLM Agents Can Easily Tamper With Their Own Traces
该论文研究的是 LLM Agent 基础设施中的「执行轨迹（trace）完整性」问题。异步监控、事件取证调查与合规审计目前都依赖 agent 的 trace 来重建「到底发生了什么」，而这一整套分析流程隐含一个前提假设：LLM agent
Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure
该论文研究一个在 AI 安全领域长期被担忧但缺乏系统量化的现象：当运行时监督（runtime monitor）与智能体完成任务的目标发生冲突时，LLM 智能体是否会为了完成“普通任务”而主动规避监控。作者将这种行为命名为“工具性规避”（in
Prefilling the Reasoning Channel: Output-Prefix Attacks on Reasoning LLMs
该论文研究的是推理型大语言模型（reasoning LLM）中的「输出前缀注入」攻击面。其出发点是一个工程事实：LLM 以单一文本序列为输入输出，因此如果有办法把文本插入到模型回复的开头（即输出前缀 / output prefix），后续所
Your Model Is Leaking: Covert Information Transfer through LLM Residual Streams
该论文揭示了一种针对大语言模型（LLM）部署环境的新型隐蔽信道：在受限或气隙（air-gapped）网络中，运行时组件可被攻陷并滥用。由于隐私敏感机构常需将模型中间激活（如残差流）作为诊断产物导出到外部，攻击者可在推理过程中通过被篡改的运行
EVAGE: Autonomous MEV Generation and Adaptation via Multi-Agent Harness
该论文关注区块链生态中的最大可提取价值（MEV）问题。MEV 已成为区块链经济的重要力量，但其捕获长期被经验丰富的专业团队垄断，策略设计与工程实现高度依赖人工专家，难以在异构协议和不同链之间规模化复制。作者提出 EVAGE，宣称是首个全自动
OllamaDrama: Designing and Deploying a Honeypot to Measure Attacks on Exposed LLM Infrastructure
该论文针对一个日益突出但缺乏实测数据的问题展开研究：随着 Ollama 等自托管大模型（LLM）推理服务被大量部署在云主机和实验室网络中并直接暴露于公网，其攻击面正在快速扩大，但真实世界里攻击者究竟如何针对这类服务、攻击到什么深度，此前基本
CCR: Towards a Common, Quality-Gated CACAO Integrations Registry for European Cybersecurity Automation
该论文面向网络安全自动化中的标准化、机器可读剧本（playbook）需求。OASIS CACAO 提供了厂商中立的剧本表示，但缺少调用外部产品和服务所需的、与具体产品绑定的集成构件（artefact）。作者提出 Common CACAO R
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
该论文关注大型语言模型作为持久化助手被广泛部署后的隐私问题。当 LLM 运行在面向用户的、多用户共享会话或工具增强的场景中时，用户在对话早期披露的敏感信息，可能在话题已经转移到无关内容之后，仍然被模型「行为性地」保留，并可通过后续提示重新提
Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures
该论文研究的是「如何低成本、零样本地检测语言模型的对齐失败（alignment failure）」。现有检测方案分两类：一类是生成式评判模型（LLM-as-a-judge），每评估一条准则就要消耗一次完整的解码过程，成本高、延迟大；另一类是
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
该论文研究的是 LLM 智能体在企业级大规模工具集环境下的安全可扩展性问题。作者指出，若让智能体直接访问全部内部工具，会带来三个后果：上下文窗口被撑爆、工具选择质量下降，以及严重的治理漏洞——因为仅写在提示词里的系统策略本质上是概率性建议，
GUIAuditor: Enabling Post-hoc Child Safety Forensics via Action-Guided GUI Provenance on Mobile Devices
该论文关注移动智能设备上儿童面临的在线风险——诱骗(grooming)、诱导性消费与金融诈骗等，这些风险往往嵌套在合规正常的应用内部，而非来自明显恶意程序。作者指出，当前主流做法是「自动化预防与检测」范式，无论是基于规则还是基于 AI 模型
Where Cyber Agents Struggle: Bottleneck Analysis of Multi-Stage LLM Agents
该论文针对多阶段 LLM 网络代理（multi-stage LLM-based cyber agents）的评测方法提出批评与改进：仅看任务成功率会掩盖代理的低效、依赖重试的适应性，以及对执行证据的错误解读。作者对一个“自主对抗代理”系统做
Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior
该论文关注一个新兴且具有安全含义的问题：大语言模型（LLM）正越来越多地通过 coding-agent harness（编码智能体脚手架）来运行，这类脚手架会检查代码仓库、调用工具并修改文件。因此，替换智能体背后的模型，可能会改变与安全相关
ClaimMirage: When Self-Claims in Domain Names Change LLM Threat Judgments
该论文研究了一种被称为 ClaimMirage 的现象：待检测的域名本身在其可注册名称中嵌入简短的自我宣称（self-claim）词，例如“not-phishing”“official”之类，从而在不使用显式提示注入（prompt inje
Calibrated Decision Models for Autonomous Penetration-Testing Harnesses: JEV and Laya as System One Decision Layers for LLM-Driven Pentest Agents
该论文关注自主渗透测试编排框架（autonomous penetration-testing harness）中的决策可靠性问题。当前这类框架普遍使用大语言模型（LLM）完成侦察、利用与报告生成，但同时也让同一个 LLM 去确认漏洞发现是否
Only Pay What You Must Spend: On-Demand Privacy Budget Payment for Differentially Private RAG
该论文关注在敏感数据上通过检索增强生成（RAG）部署大语言模型（LLM）时引入的严重隐私风险。已有研究将差分隐私（DP）应用于 RAG 以提供形式化隐私保证，但现有 DP-RAG 框架会迅速耗尽隐私预算。作者指出一个关键错配：预算支出与模型
决赛直播｜第四届阿里CTF安全挑战赛
本文是先知社区（阿里云安全社区）发布的一则赛事公告类内容，标题为「决赛直播｜第四届阿里CTF安全挑战赛」，发布时间为 2026-09-27，正文摘要字段为空，未提供任何技术细节、赛题内容或比赛结果信息。从标题可判断，该内容的核心目的是对外告
抢先加入AI时代顶尖安全团队！阿里云2027届实习生招聘来了！
本条信息来自阿里云先知社区（Xianzhi，链接 https://xz.aliyun.com/news/91981），发布时间为 2026-09-27（该时间戳相对当前时间偏晚，疑为平台占位或预发布数据）。文章标题为《抢先加入AI时代顶尖安