TTY Logs and the Data it Captures, (Sun, Oct 4th)
For an experiment, I created a script [1] that parses and send the TTY logs collected from actors or bots activity that
2026-10-05 归档
今日共收录 815 条安全情报，包含 115 个 CVE，364 篇安全通告，以及 81 篇研究论文。
← 返回归档列表Anthropic asks Claude users to share voice data for AI model training
Anthropic has started asking Claude users to voluntarily share their voice conversations to help train and improve its A
Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
该学位论文系统研究如何评估并提升大语言模型（LLM）对输入序列变异的鲁棒性，直面生产系统中三类现实威胁：提示注入、木马/后门植入，以及对自动质量评测指标（LLM-as-a-Judge）的操纵。作者首先提出生成式鲁棒性度量 R_stab(f)
MIRROR: Multipath Quorum Integrity for LLM Multi-Agent Communication
该论文聚焦大型语言模型多智能体系统（LLM-MAS）中一个被忽视的攻击面：智能体之间的通信链路。作者提出「中间智能体攻击」（Agent-in-the-Middle, AiTM）——攻击者并不攻陷任何智能体本身，而是在消息传输过程中篡改内容，
PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
该论文研究使用工具的大语言模型（LLM）智能体的安全问题。此类智能体把生成文本转化为真实副作用，因此被污染的工具元数据、检索页面、记忆或可复用技能，都可能操纵下一次工具调用。作者指出，仅在准入前审查工件无法解决该问题：一个安全变体与一个泄密
Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents
这篇论文研究一个在 LLM Agent 安全部署中非常现实的问题: 当团队要为 Agent 选择提示注入(prompt injection)检测器来筛查工具输出(tool outputs)时, 通常依据的是厂商或论文在公开基准上的分数, 但
The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching
该论文关注大语言模型（LLM）及其 Agent 在代用户获取外部信息时衍生出的新型数据外泄风险。作者指出，现有研究主要聚焦两类威胁：提示注入，以及机密数据被发送给聊天机器人服务商；业界也提出了输入结构化、本地部署模型等缓解手段。但论文强调，
Securing Computer-Use Agents Against Branch Steering Attacks
该论文研究的是计算机使用代理（Computer-Use Agents, CUA）在图形界面环境下面临的一类新型间接提示注入风险——分支引导攻击（branch steering attack），并提出相应的防御架构 COBRA。背景方面：现代
Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents
该论文聚焦 LLM Agent 安全分析中的一个基础性难题：如何判定模型生成的决策是否会真正触达安全敏感能力。现有方法通常以「预定义的敏感操作（sink）」作为分析锚点，例如命令执行、文件系统读写、网络通信、浏览器控制以及外部工具调用等。但
Pincer: Resource Authorization for Agents using a Digital Twin
该论文关注长周期自主编码智能体（coding agent）在安全授权方面的结构性缺陷。当前主流智能体（如 Claude、Codex）具备长时程自主执行、依赖通用 shell、并维护持久化记忆以自我改进等能力，这些能力在提升生产力的同时也扩大
Chaining Skills to Hijack LLM Agents
论文《Chaining Skills to Hijack LLM Agents》研究 LLM Agent 在多技能协作场景下的新型攻击面。背景是：Agent 为完成用户请求会按顺序调用多个技能（skill），前一个技能产生的信息会作为输入影
High-quality Data Do not Mean Safe! Poisoning LLMs after Data Selection
该论文研究的是大语言模型（LLM）微调阶段的数据投毒问题，指出了一个被此前工作普遍忽略的盲区。既有研究通常假设投毒样本会原封不动地进入下游微调流程，但在真实训练流水线中，数据往往先经过基于质量的数据筛选（selection/filterin
Threat-Preserving Representation Sensitivity in Agent-Security Benchmarks
该论文研究 LLM 智能体安全基准评测中的一个基础假设：攻击成功率（ASR）是否真实刻画了智能体的安全性，还是同时受基准「表示形式」的干扰。作者指出，Agent Security Bench（ASB）、MCPTox、AgentDojo 等基
Defense-in-Depth at the Perception-Reasoning Interface of LLM-Centric Agentic UAV Swarms
该论文研究的是以 LLM 为核心的智能体化无人机蜂群（LLM-Centric Agentic UAV Swarms）在「感知—推理接口」处面临的完整性风险，并首次对该接口的纵深防御做了完整实现与量化评估。研究背景是：LLM 越来越多地被用于
EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents
该论文针对「工作区智能体」（Workspace Agents）的运行期安全风险，提出了一个可持续演进的基准测试框架 EvoRiskBench。工作区智能体将大语言模型与执行框架（harness）结合，能够执行有状态、多步骤的任务，并访问或修
Mitigating Private Data Leakage in LLMs with Whiteout
该论文关注大型语言模型（LLM）训练数据中的隐私泄露问题。由于现代 LLM 的训练语料规模巨大且基本未经过滤，包含从几乎所有可访问网站抓取的内容以及大量用户输入，模型往往会记住并复现个人敏感信息（PSI），例如出生日期、电话号码和家庭住址。
The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs
该论文关注开放权重语言模型的安全防护问题。由于开放权重模型可被任意下载、修改并部署在开发者控制范围之外，中心化强制保护措施的效果有限。近期研究提出 trigger-tag 机制：当模型在目标条件下被使用（如生成钓鱼内容）时，产生可检测信号。
Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks
近期研究表明，大语言模型可被“组合式”越狱攻击：有害意图与若干看似无害的任务被拼接进同一条查询，单独的恶意请求会被拒绝，但嵌入更大规模的良性查询后却可能获得回应。该论文从信息论视角系统刻画这类“意图隐藏”越狱。作者为每个任务赋予一个“被判定
RMCW: A Deletion-Robust Watermark Based on Reed--Muller Codes for Language Models
该论文针对大语言模型（LLM）文本水印在后处理攻击下鲁棒性不足的问题，提出了一种基于 Reed--Muller 码的删除鲁棒水印方案 RMCW。背景上，LLM 水印通过在生成阶段注入统计或代数信号，为识别某一特定模型产出的文本提供轻量级溯源
CITADEL: CWE-Guided Insertion of Hardware Trojans via Analysis of DFG-Enabled LLMs
该论文关注的背景是：随着硬件木马（Hardware Trojan, HT）与系统级漏洞日益复杂，现代集成电路面临的风险不断上升；但研究界若要构造贴近真实的 HT 场景，负担非常沉重——研究者必须手工分析复杂的 RTL 结构、找出可能被利用的