COPA: Continual Preference Optimization for Adaptive Prompt Injection Defense
大型语言模型（LLM）面临提示注入攻击的严重威胁，攻击者通过在用户输入或外部内容中嵌入恶意指令，操纵模型行为并绕过安全机制。现有防御方法大多为静态设计，依赖固定的对齐目标或针对特定攻击的过滤机制，当新攻击策略出现时需重新设计，难以应对不断演
2026-08-21 归档
今日共收录 1701 条安全情报，包含 827 个 CVE，444 篇安全通告，以及 120 篇研究论文。
← 返回归档列表The Model's Tell: Measuring Context-Leakage Attack Signals with Behavior Gauges
这篇论文研究了大语言模型（LLM）在依赖外部上下文（如系统提示或检索文档）时面临的信息泄漏风险。作者指出，虽然已有工作表明隐藏状态中存在与泄漏相关的内部信号，但提取隐藏状态在实际部署中较为困难。为此，他们提出了一种名为 LeakGauge
PACE: Policy-Attested Contract Execution for Safe AI Agents in Decentralized Finance
本文提出 PACE（Policy-Attested Contract Execution），一个面向去中心化金融（DeFi）中基于大语言模型（LLM）的自主智能体的交易级授权框架。研究背景在于：LLM 智能体在规划链上交易（如代币兑换、借贷
MaliciousSkillBench: A Comprehensive Benchmark for Malicious Agent Skill Detection
本文提出了 MaliciousSkillBench，一个用于检测恶意 Agent Skill 的综合基准。Agent Skill 作为扩展大语言模型（LLM）智能体的可复用指令包，可能包含脚本、资源和服务配置，从而为恶意行为提供了直接分发渠
Improving LLM-Based SSH Honeypots Through Prompting and Fine-Tuning
本文研究了如何通过提示工程（prompting）和监督微调（supervised fine-tuning）来提升基于本地开源权重大语言模型（LLM）的SSH蜜罐的shell仿真准确性。背景上，基于LLM的SSH蜜罐通常使用封闭云模型（如GP
Incident-Data Robustness Analysis of the OWASP Top 10 for LLM Applications (2026): How a Community-Expert Ranking Holds Up Against a Large-Scale LLM Incident Corpus
本文针对 OWASP Top 10 for LLM Applications（2026 候选清单）的社区专家排名与实际大规模 LLM 安全事件数据之间的一致性进行了实证检验。作者从 CVE、GHSA、OSV 和 AIAAIC 等来源收集了
EchoCoT: Extracting Hidden Chain-of-Thought from Large Reasoning Models
该论文针对大型推理模型（LRM）的隐藏思维链（Chain-of-Thought，CoT）提取问题展开系统研究。作者指出，前沿专有 LRM 的隐藏 CoT 是重要的模型资产，但此前关于能否从黑盒模型中直接提取这些隐藏 CoT 的探索十分有限。
BullsEye: Directed Firmware Fuzzing
本文提出 BULLSEYE，首个基于基本块级距离的定向模糊测试（DGF）框架，用于对闭源 Linux 固件进行定向模糊测试，以检测第三方组件复用引入的已知漏洞。随着物联网设备普及，固件安全分析愈发重要，而第三方软件组件的频繁复用常将已知漏洞
FlowShield: cryptocurrency anti-money laundering with transaction semantics parsing and fund flow tracking
本文提出 FlowShield，一个面向加密货币反洗钱（Crypto AML）的框架，旨在应对日益复杂的洗钱行为——这类行为通过多样化的交易语义和多条区块链快速拆分被盗资产。现有 AML 方法通常简化交易语义、依赖以拓扑为中心的信号，或输出
Auditing Cross-Lingual Fairness in Language Model Watermarking
本文针对大语言模型（LLM）输出水印方案的跨语言公平性评估问题展开研究。作者指出，现有水印方案几乎只在英文文本上评估，且依赖单一检测阈值和窄范围的质量度量，这种评估设计在英文上看似合理，但在多语言部署中会因语言特性而产生截然不同的结论。为此
From Noise to Signal: Improving Security Log Anomaly Detection Using LLMs with Endpoint-Specific Logs
本文研究利用大型语言模型（LLM）改进安全日志异常检测的问题。现有方法如Wazuh依赖预定义规则，OpenSearch异常检测依赖统计模式偏差，但两者在识别复杂、边界情况时表现不佳。基于LLM的方法虽能理解语义，但受提示构造、日志噪声以及缺
Evaluating Structured Information Extraction with Open Models in a High Risk Public Sector Application
本文研究开放权重模型在公共部门高风险场景下进行结构化信息抽取（Structured Information Extraction）的端到端性能。作者指出，结构化信息抽取是各行业数字化转型的关键环节，虽然商业专有方案占据主导，但快速发展的开源
Redakto - The Incognito Tab for LLMs
本文提出并实现了一个名为 Redakto 的开源文本匿名化工具，旨在解决大型语言模型（LLM）使用过程中的隐私保护问题。随着 LLM 在各类日常应用中的普及，输入文本中可能包含个人身份信息（PII），这给数据隐私带来了重大挑战，尤其是在欧盟
SpecTrum: Specification-Guided Differential Fuzzing for Ethereum Consensus Clients
以太坊的共识安全依赖于多个独立实现的共识客户端在每一个状态转换上保持一致。如果不同客户端因实现错误而产生分歧，可能导致网络分叉、最终性停滞，甚至引发严重攻击。为防止这类共识分歧，以太坊提供了Python参考实现（consensus-spec
MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps
本文提出 MobileWorldSafety，一个针对真实 Android 应用上 GUI 智能体安全性的基准测试，聚焦环境注入攻击（包括间接提示注入和对抗性指令）。随着 LLM 驱动的 GUI 智能体从研究原型走向早期真实部署，它们经常处
HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
随着大语言模型（LLM）越来越多地通过代理框架（Agent Harness）进行部署，这些框架负责管理工具调用、扩展、持久状态、权限和外部动作，安全问题变得日益复杂。现有安全基准大多只针对单一攻击机制或有限的运维场景，难以系统比较不同代理职
Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings
本文针对大型语言模型（LLM）在实际应用中面临的安全挑战，即攻击者可通过精心构造的提示词（prompt）绕过模型的安全控制。现有的防护方法，如LLM-as-a-judge或基于云的安全API，虽然能检测不安全内容，但每次请求会增加约250-
Decomposition Attacks Across Unlinkable Identities: Limits of Stateful Defenses for LLM Services
本文针对大型语言模型服务中的分解攻击（Decomposition Attack）展开研究。此类攻击将有害任务拆分为多个看似无害的子请求，利用大多数服务仅对单次请求进行判断的无状态防御，绕过内容安全审查。此前防御思路是引入有状态监控，将同一攻
Fair ASR: Re-Evaluating Black-Box Jailbreaks under Shared Target-Call Budgets
大型语言模型（LLM）的安全性评估至关重要，但现有越狱攻击评估大多仅关注攻击成功率（ASR），忽略了攻击预算对成功率的影响，导致不同攻击方法之间的比较不公平。部分研究引入计算感知评估，将异构资源折算为FLOPs，但该指标对黑盒模型难以估算，
COMIC: Reference-Aware Safety Gating for Multimodal Large Language Models
本文针对多模态大语言模型（MLLM）在视觉输入场景下的新型安全风险展开研究。作者指出，在许多多模态越狱攻击中，单独的文本提示或图像本身并无危害，但当模型将一个看似无害的操作（如摘要、翻译、指令跟随）绑定到一个具体视觉目标时，不安全行为便会产