DP-MemView: A Memory Interface for Attribute-Level Transcript Privacy in Long-Term LLM Agents
本文针对长期记忆型大语言模型（LLM）代理中的隐私泄露问题展开研究。作者指出，虽然用户从未明确陈述受保护属性（如健康状况、政治倾向等），但代理在多次交互中基于长期记忆生成的条件响应，可能累积性地泄露这些属性。作者将该威胁形式化为“自适应转录
#cs.LG
共收录 1067 条相关情报。
← 返回所有主题Evading Chain-of-Thought Monitoring Through Model Poisoning
该论文研究链式思维（Chain-of-Thought, CoT）监控在AI安全栈中的局限性。CoT监控假设模型的推理轨迹能够反映其真实行为，但作者通过模型投毒的手段挑战了这一假设。他们证明，攻击者可以在推理模型中植入后门，使模型执行攻击者指
Self-Supervised Representations for Binary Program Clustering: From Empirical Study to Retrieval-Augmented Learning
该论文针对二进制程序聚类任务，首次系统性地研究了自监督学习（SSL）和表格表示学习（TRL）方法在该场景下的表现。恶意软件聚类是网络安全中威胁发现和家族演化分析的关键步骤，但以往SSL/TRL方法在此领域的研究几乎空白。作者在公开的Embe
A Multi-Objective AutoML-based Efficient Intrusion Detection System for EV Charging Networks
该论文针对电动汽车充电系统（EVCS）日益与物联网（IoT）设备互联所引入的网络安全风险，提出了一种基于多目标自动化机器学习（MOO-AutoML）的高效入侵检测系统（IDS）。传统基于机器学习的IDS往往依赖人工设计模型，且仅以检测性能为
Pretraining on Call Graphs: When Binary Analysis Tasks Profit From Context
本文针对二进制函数嵌入模型（binary function embedding models）中引入调用图（call graph）上下文信息所带来的影响展开系统剖析。此类模型通过将二进制代码片段映射为向量表示，服务于代码搜索、漏洞检测、恶意
Stylometric Defenses Against Author Impersonation in Software Repositories
该论文针对软件供应链攻击中的身份伪造问题，提出了一种基于笔迹风格学的补丁级作者验证方法。传统防御手段主要依赖账户权限管理，但无法有效防范维护者账户被攻陷后提交恶意代码的风险。作者利用经过20多年Linux内核提交历史微调得到的跨模态Tran
DenialRAG: Single-Document RAG Poisoning via Embedded Parametric Denial
本文研究检索增强生成（RAG）系统面临的数据投毒威胁。作者指出，已有单文档投毒攻击通常避免在恶意文档中显式提及正确回答，而是采用间接方式误导。DenialRAG 则采用相反策略：在投毒文档中直接写明正确回答，然后明确否定该回答，并附加一个看
How Benchmarks and Evaluation Protocols Shape Conclusions in Provenance-Based Intrusion Detection
该论文系统研究了基准测试与评估协议如何影响基于溯源（provenance）的入侵检测系统（PIDS）的性能结论。作者指出，许多 PIDS 在论文中宣称高检测性能，但这些结论往往对所选数据集和评估方式极为敏感。为了揭示这一依赖关系，他们在满足
Why Formal Monitors Fail: Attack Distribution Entropy as a Coverage Bound for LTL-Based LLM Agent Safety
本文研究基于线性时序逻辑（LTL）和有限状态自动机（FSA）的运行时安全监控器在防御大语言模型（LLM）智能体工具调用序列时的失效原因。实际部署中，同一监控器在不同模型架构上对攻击的覆盖率差异巨大：在部分架构上可达 68-75%，而在另一些
On the Performance of Malware Detection Classifiers Using Hardware Performance Counters
本文研究基于硬件性能计数器（HPC）的恶意软件检测方法。HPC 是处理器运行时采集的低层微架构活动数据，可反映应用行为。传统杀毒软件依赖特征匹配，难以应对未知威胁；硬件辅助检测作为补充，可增强系统安全。然而，HPC 检测面临挑战：处理器每个
Explainable Hybrid Feature Selection for Intrusion Detection in Internet of Medical Things Environments
本文针对医疗物联网（IoMT）环境中的入侵检测难题提出了一种可解释的混合特征选择方法。IoMT 网络中的设备异构性强、计算资源有限，且流量需要实时分析，这使得传统入侵检测系统难以直接部署。作者设计了一套两级特征选择流程：首先利用 Pears
A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense
该论文针对链式思维（Chain-of-Thought, CoT）监控的鲁棒性展开研究。CoT监控旨在通过检查智能体的推理过程来识别奖励黑客行为（reward hacking），因为这类攻击在动作层面可能表现正常，仅在推理中暴露意图。然而作者
Leak It: A Probabilistic Approach to Training-Data Extraction from Black-Box Language Models
本论文针对黑盒语言模型训练数据泄露问题，提出了基于概率视角的成员推断（MIA）审计方法，并批判了传统聚合指标（如ROC-AUC）的误导性。作者首先指出，现有的MIA评估常被无模型盲基线混淆，这类基线仅通过表面文本特征就能较好区分成员与非成员
Deep Learning for Cyber Threat Detection and Mitigation in Healthcare-IoT
该论文面向医疗物联网（Healthcare-IoT, H-IoT）中的网络安全威胁，提出了一套基于深度学习的安全防护方案。H-IoT中可穿戴设备资源受限，传统复杂深度学习模型难以部署，同时现有数据集质量参差不齐，限制了安全模型的实用性。为此
StraightDP: Geometry-Aware Differential Privacy for Rectified-Flow Transformers
论文提出一种针对直方流（Rectified Flow）变换器的几何感知差分隐私训练方法StraightDP，旨在解决文本条件生成模型在强隐私约束下出现的效用悬崖（utility cliff）问题。作者重新审视了直方流的几何特性：在噪声到数据
TextCloak: Thwarting Unauthorized LLM Exploitation via RL-Driven Unlearnable Text
本文针对大语言模型（LLM）时代中未经授权数据利用与隐私泄露问题，提出一种名为 TextCloak 的防御框架。现有文本不可学习样本（UEs）方法主要面向情感分析等判别式分类任务，通过注入类别特定的语言线索来破坏模型训练效果，但在 LLM
Cybersecurity Detection Classification with Reasoning-enabled Language Models
本文聚焦安全运营中心（SOC）中普遍存在的告警疲劳问题：每日产生的检测告警数量远超分析师可处理范围。以往研究通常直接提示或微调大语言模型（LLM）输出三分类标签（良性/恶意/待查），但未训练模型对检测是否构成真实威胁进行推理。作者提出一种基
Encryption-Compatible Clustered Federated Learning via Distributed Expectation-Maximization over Metadata
本文针对联邦学习（FL）中数据异质性导致的客户端模型性能下降问题，研究了聚类联邦学习（CFL）方法。现有CFL方法在隐私保护、通信成本和计算效率三者之间存在权衡，作者将其形式化为“CFL三难困境”（CFL trilemma）：改善其中两个维
Secure Aggregation for Privacy-Preserving Federated Learning on Clinical EEG Data
本文提出一种针对临床脑电图（EEG）数据的隐私保护联邦学习框架，核心机制是基于掩码的安全聚合（secure aggregation）。联邦学习虽然允许多个机构在不交换原始临床EEG数据的前提下共同训练模型，但个体模型更新仍可能泄露患者隐私。
Driving up Inference Energy on SNNs: Per-Sample and Universal Sponge Attacks
脉冲神经网络（SNN）通过稀疏的二进制尖峰事件而非密集的激活值进行通信，这使得脉冲神经网络能够在神经形态硬件上实现高能效推理，从而非常适合用于始终在线的电池供电边缘系统。本文首次提出了针对原生事件驱动二进制输入的海绵攻击（Sponge At