Redakto - The Incognito Tab for LLMs
本文提出并实现了一个名为 Redakto 的开源工具，旨在解决大型语言模型（LLM）使用过程中的隐私保护问题，特别是针对欧盟新法规下个人可识别信息（PII）泄露的风险。随着 LLM 在各类应用中的普及，输入文本可能包含敏感信息，直接提供给模
#LLM
共收录 2152 条相关情报。
← 返回所有主题COMA: A Compositional Misleading Attack Class on Security-RAG, and a Causal Counterfactual Defense
该论文研究检索增强生成（RAG）在安全运营中心（SOC）分析师面向上机助手（copilot）场景中的安全漏洞。作者发现并定义了一类名为 COMA（Compositional Misleading Attack）的攻击：即使每个检索到的文档都
The Model's Tell: Measuring Context-Leakage Attack Signals with Behavior Gauges
本文研究大语言模型（LLM）在依赖外部上下文（如系统提示词、检索文档）时面临的信息泄露风险。已有研究表明，模型内部隐藏状态中会浮现与泄露相关的信号，但提取这些状态在实际部署中较为困难。作者尝试探究：在解码之前，该内部信号是否会留下更易获取的
Diff-DDoS: Realistic Cyber-Physical Attack Synthesis and Robust Detection for 5G-Enabled CPS Using Tabular Diffusion Models
本文针对5G赋能的网络物理系统（CPS）中基于深度学习的DDoS检测器所面临的两大挑战：标注攻击数据稀缺，以及现有合成攻击样本不真实。传统检测器在手工构造、使用固定缩放因子的攻击样本上训练，一旦遭遇符合真实分布的攻击流量，性能会急剧下降（F
SpecTrum: Specification-Guided Differential Fuzzing for Ethereum Consensus Clients
以太坊的共识安全依赖于多个独立实现的共识客户端在每个状态转换上保持一致。若实现差异导致分歧，网络可能分叉、最终性停滞，并引发严重攻击。为防止此类共识分歧，以太坊提供了 Python 参考实现（consensus-spec）作为规范，并附带手
Benchmarking Automated Security Patch Backporting: How Far Are We?
该论文研究了自动化安全补丁回溯移植（backporting）这一关键问题。安全补丁回溯移植是指将针对新版本软件的安全修复代码移植到旧版本或不同分支，以缓解N-day漏洞。以往研究的工具在各自数据集上宣称成功率超过80%，但这些评估往往局限于
MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps
本文提出 MobileWorldSafety，一个专门用于评估 Android 图形用户界面（GUI）智能体在环境注入攻击下安全性的基准测试。随着大语言模型（LLM）驱动的 GUI 智能体从研究原型走向真实部署，它们需要处理大量不可信的外部
HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
本文提出HarnessRisk，一个面向大语言模型（LLM）代理工具（agent harness）安全性的生命周期导向基准。研究背景：LLM越来越多地通过代理工具部署，这些工具负责管理工具调用、扩展、持久状态、权限和外部动作。现有安全基准大
The Last Mile of Deepfake Speech Detection: An Industry-Academia Experience Report
该论文是一篇来自工业界与学术界合作的经验报告，基于与商业说话人识别厂商 Phonexia 为期三年的合作，深入探讨了深度伪造语音检测（deepfake speech detection）从研究走向实际部署时面临的“最后一公里”障碍。尽管当前
AdaRare: Telemetry-Guided Joint Profile Control for Greybox Fuzzing
本文提出 AdaRare，一个基于 AFL++ 的灰盒模糊测试扩展，旨在协调模糊器中多个内部控制面，以提升边覆盖效率。传统灰盒模糊器通常包含交互队列、变异、字典、能量调度和比较求解等多个控制面，但先前的自适应系统往往只优化其中的某个决策对象
Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings
该论文针对大型语言模型（LLM）在实际部署中面临的安全挑战——攻击者通过精心构造的提示词（prompt）绕过安全控制。现有防护方法（如 LLM-as-a-judge 和基于云的安全 API）虽能检测不安全内容，但每次请求会增加约 250-9
KeyPooling: Measuring Where LLM API Relay Paths Collapse Prompt Cache Isolation
本论文提出 KeyPooling，一种针对大语言模型（LLM）API 中继（relay）路径的缓存隔离测量方法。研究背景是：LLM API 中继通常对客户进行独立认证，但转发请求时往往使用共享的提供商凭据。提供商将提示缓存（prompt c
Decomposition Attacks Across Unlinkable Identities: Limits of Stateful Defenses for LLM Services
该论文研究了大语言模型（LLM）服务在面对分解攻击时的防御极限，特别是当攻击者使用不可关联身份时，有状态防御是否仍然有效。分解攻击将有害任务拆分为多个看似合规的请求，分别提交给目标服务，再在外部组合各次回答以完成恶意目标。大多数现有防御是无
FESC: Remodeling Long-Context Private Inference with Encrypted State-Space Models
该论文针对长文本隐私推理中的性能瓶颈问题，提出了一种名为FESC（Factorized Encrypted Scan-Contract）的混合FHE-MPC系统。传统隐私推理系统主要优化或分布式实现Transformer的加密注意力机制，但
FlowShield: cryptocurrency anti-money laundering with transaction semantics parsing and fund flow tracking
本文提出 FlowShield，一个面向加密货币反洗钱（Crypto AML）的框架，旨在解决现有方法在应对复杂、跨链洗钱行为时的不足。当前洗钱手段常通过多样化交易语义和跨多区块链快速拆分被盗资产，而传统 AML 方法往往简化交易语义、仅依
Enhancing Semantic-Aware Binary Diffing with High-Confidence Dynamic Instruction Alignment.
本文研究的是二进制差异分析（binary diffing），该技术用于检测两段二进制代码之间的差异，是漏洞分析、补丁分析、恶意代码演化追踪等安全任务的基础。现有研究已经证明，如果能在两个二进制之间找到足够多且细粒度的指令对齐作为锚点，就能显
Automating Function-Level TARA for Automotive Full-Lifecycle Security.
随着现代汽车向智能网联化发展，其复杂性带来了严峻的网络安全风险。威胁分析与风险评估（TARA）已成为满足法规要求、管理这些风险的关键手段。然而，现有的TARA自动化方法大多依赖静态威胁库，难以支撑行业所需的函数级（function-leve
D-DAE: Defense-Penetrating Model Extraction Attacks.
本文提出了一种名为 D-DAE 的防御穿透式模型提取攻击框架，旨在突破基于扰动查询结果的模型提取防御。近年来研究表明，机器学习模型易受模型提取攻击：攻击者仅通过查询黑盒受害者模型，即可训练出一个性能接近的替代模型。为抵御此类攻击，防御方往往
Revisiting Training-Inference Trigger Intensity in Backdoor Attacks.
本文重新审视了后门攻击中训练阶段与推理阶段触发强度（trigger intensity）的关系问题。现有研究通常假设训练和推理使用相同的触发模式，或仅关注推理阶段的触发强度，而忽略了训练阶段触发强度对攻击效果的影响。作者系统性地研究了训练-
SNAP: Efficient Extraction of Private Properties with Poisoning.
本文研究针对机器学习模型训练数据隐私的“属性推断攻击”（Property Inference Attack）问题。此类攻击旨在从已训练模型中提取训练数据集的全局统计属性（如某类样本占比、数据分布特征），对共享数据参与训练的机构或个人构成隐私