Backdoor Attacks Against Dataset Distillation.
该论文首次系统性地研究了数据集蒸馏（Dataset Distillation）技术面临的后门攻击风险。数据集蒸馏旨在将大规模训练数据压缩成小规模合成数据集，使模型在合成数据上训练后仍能达到与原始数据训练相近的性能，从而提升数据效率。然而，现
#LLM
共收录 2152 条相关情报。
← 返回所有主题Entangled Watermarks as a Defense against Model Extraction.
本文针对机器学习模型被窃取（model extraction）的知识产权保护问题，提出了一种名为 Entangled Watermarking Embeddings (EWE) 的模型水印方法。传统模型水印通过让模型在训练时过拟合到一些远离
Toss a Fault to BpfChecker: Revealing Implementation Flaws for eBPF runtimes with Differential Fuzzing.
eBPF 是一项可在特权上下文中运行沙箱程序的革命性技术，广泛应用于 Linux 内核网络监控、Windows 拒绝服务防护以及区块链智能合约执行等场景。然而，eBPF 实现中的缺陷可能造成广泛而严重的影响。以往研究主要关注 eBPF 运行
Practical Timing Side-Channel Attacks on Memory Compression.
本文首次提出并系统研究了内存压缩算法中的时序侧信道攻击，命名为 Decomp+Time。此前针对压缩算法的侧信道研究仅利用了压缩率（如压缩后数据大小）这一指标，而本文发现解压过程中的数据依赖操作也会引入可观测的时序差异，从而构成信息泄露通道
Towards Automatic and Precise Heap Layout Manipulation for General-Purpose Programs.
该论文研究自动堆利用生成中的一个核心挑战：如何判断并构建可利用的堆布局状态。在通用程序中，堆内存的布局通常由程序的堆操作（如分配、释放、修改）动态决定，而攻击者或自动化工具需要精心编排这些操作，使得堆对象重新排列，从而为后续的漏洞利用创造条
Ranked by the Matcher: A Reproducibility Audit of Knowledge Graph Extraction from Threat Reports
该论文针对威胁报告知识图谱提取工具评估的可复现性问题进行系统审计。研究者注意到工具发布时引用的三元组F1分数高度依赖于预测三元组与黄金标注之间的匹配规则，而匹配算法（精确匹配、同义词、嵌入相似度等）的选择会显著影响最终得分。作者检查了12个
SoK: Motion Data Privacy in Extended Reality
本文是一篇关于扩展现实（XR）中运动数据隐私的系统化知识综述（SoK）。XR 设备（如 VR/AR 头显）依赖对用户身体动作的持续追踪来实现沉浸式交互，例如抓取、注视或移动虚拟物体。然而，运动追踪数据记录了个体独特的运动模式，现有研究表明这
NeuroGraph: An AI Graph-Driven Neuro-Symbolic Framework for Explainable Threat Reasoning in Advanced Manufacturing
本文针对先进制造业中日益复杂的网络物理攻击面与威胁情报分析难题，提出了一种基于图谱的神经符号推理框架 NeuroGraph。尽管大语言模型（LLM）与检索增强生成（RAG）已显著改善威胁情报工作流，但仍存在幻觉问题，并且难以对相互关联的威胁
Same Request, Different Boundary: Evaluating Cybersecurity Assistance across Conversational Contexts
本文针对大型语言模型（LLM）在网络安全领域的安全辅助边界问题展开研究。LLM 能够解决复杂问题，但在高风险领域的滥用可能造成严重后果，因此模型提供商通常会对潜在有害请求加以限制。然而，一刀切地拒绝所有网络安全请求会损害合法防御者的利益，因
The Safeguard Worked. Is the LLM System Safer?
本文针对大语言模型服务中维护防护机制的效果评估问题展开研究。当前业界通常以拒绝率、攻击成功率或违规率等指标来衡量防护本身的有效性，但这些指标仅反映防护在预定义测试请求集合上的表现，不能说明在实际部署环境中，面对持续适应攻击方式的对手，服务仍
EvoFlint: An Evolutionary Atlas of Multi-Turn LLM Vulnerabilities
前沿语言模型通常会拒绝有害的单轮提示，但在多轮交互中，当用户逐渐表达恶意意图时，模型可能会妥协，这种现象被称为多轮攻击。现有自动化红队方法多将攻击视为生成问题，产生一系列单次成功的攻击示例，但缺乏对模型失败模式的系统性理解。本文作者提出将多
TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning
这篇论文提出了一种针对检索增强生成（RAG）系统的知识投毒攻击防御框架。研究背景是：RAG通过外部语料库为大型语言模型提供事实依据，但系统对检索文档的隐式信任构成了严重攻击面。已有研究（如PoisonedRAG）表明，仅需少量精心构造的恶意
Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective
该论文从神经符号（Neuro-Symbolic, NeSy）视角出发，首次系统评估了后门攻击对NeSy模型的影响。NeSy AI旨在将亚符号神经感知与基于符号的推理相结合，以提高AI系统的透明性、可解释性和效率，通常被认为是“设计上安全”的
Capability-Gated Language Models: Security Composes, Utility Does Not
该论文针对大语言模型（LLM）部署中的安全访问控制问题，提出了一种称为“能力门控”（capability-gated）的部署范式。传统安全机制（如安全微调、过滤、遗忘）往往在模型权重外部按主体（principal）进行区分，例如通过配置不同
Don't Trust the Code, Check Its Effects: Runtime Refinement for Regenerated Systems Code Under an Adversarial Generator
该论文研究使用大语言模型（LLM）从规范自动生成系统代码的安全问题。近期许多工作将规范视为持久工件，实现代码作为一次性产物，可随工作负载和设备变化而再生成；其隐含前提是运行环境宽容：组件的外部可见效果（如设备写入、命令）可恢复，生成器是诚实
Context Inference Attacks Without Jailbreaks
本文研究 Agentic AI 系统在推理时处理敏感数据（如医疗记录、金融文档）时面临的隐私泄露问题。与以往主要关注通过越狱攻击直接诱导模型泄露敏感内容的研究不同，本文首次系统化地研究了 Agent 自身的工具调用所组装出的隐藏上下文（hi
NeuroPriv: Adversarial Representation Learning for Privacy in Wearable EEG Systems
本文针对可穿戴 EEG（脑电图）系统在健康监测之外可能泄露神经隐私的问题展开研究。作者指出，尽管许多系统假设仅传输紧凑的频谱或空间特征而非原始 EEG 数据即可提供足够的隐私保护，但实际这些特征仍可能泄露用户身份和人口统计属性。以 EEGM
Workload Identification with Physical Side Channels for AI Governance
该论文研究如何利用物理侧信道（GPU功耗）进行AI工作负载识别，为AI治理中的计算验证提供技术基础。作者指出，AI计算验证是国际AI治理政策中第一个可落地、可操作的关键点。监管机构若要判断前沿实验室或其他操作方是否遵守相关协议，需要能辨别其
Delegation Without Trust: An Empirical Gap Analysis of Identity, Authorization, and Runtime Governance in Multi-Agent LLM Systems
本文针对多智能体大语言模型（LLM）系统中的授权与运行时治理问题展开研究。作者指出，自主 LLM 智能体日益代表用户持有凭证、调用工具与服务，并能派生子智能体进一步行动，这使得分布式系统中经典的“谁被授权做什么、依据谁的授权”问题变得紧迫且
DUPIN: Attack Learning Is Still Needed! Demonstrating Few-Shot after Unsupervised Pretraining Is A Nimble Forensics Learner
本文提出一种名为 DUPIN 的新型学习型攻击取证方法。其核心思路是：先在海量的审计事件（以溯源图形式表示）上进行无监督预训练，使模型学习正常系统行为和通用结构模式；随后进入小样本学习阶段，仅利用少量带标注的攻击样例即可完成微调，从而获得针