Exposing the Illusion of Erasure in Knowledge Editing for LLMs
本文研究了大型语言模型（LLM）中知识编辑（Knowledge Editing, KE）方法的可靠性与潜在安全漏洞。KE 旨在无需昂贵重训练即可更新模型中的特定事实，但最新研究发现其效果存在严重局限性。作者从对抗性诱发（adversaria
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Attacking the Trusted Imagination: Oracle-Level Integrity Attacks on Imagine-then-Act World Models
本研究聚焦于视觉-语言-动作（VLA）策略中一种新型攻击面：世界-动作模型（WAM）的“可信想象”。许多现代VLA策略采用“先想象后行动”的设计：WAM首先生成一个短期未来潜在轨迹z~，然后动作基于该轨迹进行条件化。作者识别出该想象过程存在
CITADEL: CSI-Based Jamming Detection and Open-Set Classification for IIoT Networks
该论文提出CITADEL，一种基于信道状态信息（CSI）的轻量级两级分层流水线，用于工业物联网（IIoT）网络中的干扰检测与分类。无线射频干扰对IIoT网络的可用性构成严重威胁，但现有方法要么依赖粗糙的信号强度或跨层特征（信息量不足），要么
CLIP-guided Diffusion Model for Backdoor Generation in Sensor-based Human Activity Recognition
传感器是现代智能设备的关键组件。随着物联网和可穿戴移动设备的普及，传感器被广泛用于环境监测和预测行动。人体活动识别（HAR）是其中一个重要应用，它利用惯性测量单元（IMU）传感器（如加速度计和陀螺仪）来提供健康、训练和医疗诊断方面的洞见。然
Towards Robust Personalized Federated Learning: Vulnerability Assessment and Defense Co-Design
随着物联网设备的普及，分布式边缘系统开始大规模收集敏感数据，为设备端机器学习提供了应用场景。联邦学习（FL）通过仅传输模型参数而不交换原始数据，在一定程度上缓解了隐私泄露风险。然而，当前研究忽视了一个关键盲点：在个性化联邦学习（PFL）场景
SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但分布式特性使其易受后门攻击——恶意客户端在本地训练数据中嵌入隐藏触发器，操纵模型预测。现有防御主要在聚合前或聚合中生效，无法完全消除收敛后全局模型中残留的后门行为。此外，服务器在训练后
The Geometry of Refusal: Linear Instability in Safety-Aligned LLMs
该论文研究了大型语言模型（LLM）中安全拒绝机制的几何特性。作者提出了一种名为“对比对数几率引导”（CLS）的零优化框架，通过对比安全系统提示和不受限系统提示下的隐藏状态，提取出“拒绝方向”。与以往干预内部激活的表示工程方法不同，CLS直接
Confidently Wrong: Severity-Aware Calibration of Prompt-Injection Detectors under Attack Shift
本文研究提示注入检测器在攻击分布迁移场景下的置信度校准问题。当前检测器通常将模型对输入的打分与固定阈值比较，决定是否拦截。然而，实际攻击分布（如间接注入、越狱变体）可能偏离模型训练或调优时使用的干净基准分布，导致检测器在未知攻击上表现不稳定
RAVEN: Agentic RAG for Automated Vulnerability Repair
自动化漏洞修复是缓解软件安全问题的重要方向。现有方法多局限于内存漏洞、单一编程语言或依赖专有大语言模型（LLM），且泛化能力不足。本文提出RAVEN框架，基于智能体检索增强生成（Agentic RAG）和可控迭代修复，实现可扩展、高效、自主
Detecting and Understanding Vulnerabilities in Fully Homomorphic Encryption Frameworks
全同态加密（FHE）允许在不解密的情况下直接对加密数据进行计算，为安全云计算、金融和医疗等隐私敏感应用提供了强大的隐私保障。然而，FHE方案的复杂性阻碍了其实际应用。为了降低开发门槛，新一代专用框架应运而生，将高级FHE程序转换为复杂的FH
The Scissors Effect: When Resize-Based Input Diversity Helps or Hurts Transfer Attacks
本文揭示了在基于迁移的对抗攻击中，输入多样性（Input Diversity, DI）这一常用技巧对攻击迁移性的影响存在非单调的“剪刀效应”。DI通过在每次攻击迭代中对输入图像进行随机缩放和填充来增强攻击的鲁棒性，通常被认为能普遍提高迁移成
On the Curse of Dimensionality in Private Sparse Covariance Estimation and PCA
本文研究高维差分隐私（DP）下的协方差矩阵估计和主成分分析（PCA）问题，重点关注协方差矩阵的k-行-列稀疏性（k-RCS）假设。在非私有设置中，已知仅需poly(k, log d)个样本即可解决这两个问题。然而，在DP设置下，现有的最好结
Continuous Behavioral Authentication via Multi-Expert BERT Log Analysis for Secure Data Sharing
该论文提出了一种基于BERT日志分析的连续行为认证框架，用于在移动端和零信任系统中实现用户-设备上下文的持续验证。传统认证仅在登录时确认身份，后续会话缺乏持续检查。作者利用Android系统日志（logcat）作为非侵入式信号，设计了一套完
AdaPrivate-TS: Private Thompson Sampling for Contextual Bandits with Privacy Amplification
本文提出 AdaPrivate-TS，一种结合了差分隐私与汤普森采样的上下文多臂赌博机算法。关键洞察在于，差分隐私噪声会以结构化方式膨胀后验协方差：向观测向量b添加高斯噪声N(0,σ²I)后，采样协方差变为v²A⁻¹ + σ²A⁻²，汤普森
A Hybrid, Multi-Layered Pipeline for Phishing and Threat Classification: Independently Validated URL and NLP Engines with a Calibrated Multi-Channel Fusion Stage
本文提出一种针对钓鱼攻击（多模态威胁）的混合多层级检测管道。该管道为每种模态独立构建引擎，最后进行融合决策。具体包括三个引擎：1）四阶段URL检测栈：包含域名守卫、词法模型、威胁情报以及一个非对称L2融合侧车；2）鲁棒性增强的DistilB
Enhancing Differentially Private Mechanisms via Empirical Bayes
差分隐私已成为保护机器学习与统计算法隐私安全的事实标准。虽然已有大量算法致力于在保持同等隐私预算的前提下提升数据效用，但这些方法往往过于复杂或计算效率低下。本文提出了一种新颖且简洁的后处理去噪方法：受经验贝叶斯估计启发，直接对简单加性高斯机
Sovereign Execution Brokers: Enforcing Certificate-Bound Authority in Agentic Control Planes
本文针对自主代理在云、部署和数据控制工作流中日益增长的应用场景，提出一个关键安全问题：生产环境的变更权限不应存在于非确定性推理过程中。现有访问控制机制主要授权身份，而保证层认证提议的操作，但两者都无法在变更执行的瞬间提供强制性的认证授权执行
FloatDoor: Platform-Triggered Backdoors in LLMs
大型语言模型（LLM）日益部署在软件工程等敏感场景中，其输出直接影响下游工件。近期研究发现，同一模型在不同部署平台上可能产生可测量的输出差异，这是由非结合浮点运算和不同的内核实现所致。本文研究了这种平台依赖可变性的安全影响，揭示了LLM部署
OpenAnt: LLM-Powered Vulnerability Discovery Through Code Decomposition, Adversarial Verification, and Dynamic Testing
大规模代码库的自动化漏洞发现仍然面临挑战：传统静态分析误报率高，而动态方法（如模糊测试）需要大量基础设施且通常针对狭窄的漏洞类别。近年来，大型语言模型（LLM）的进展使得对程序行为进行语义推理成为可能，但将LLM应用于仓库级安全分析会遇到上
Giskard : Byzantine Robust and Confidential Aggregation for Large-Scale Decentralized Learning
本文针对去中心化机器学习中同时保证数据机密性和拜占庭鲁棒性的挑战，提出了Giskard协议。在去中心化学习中，客户端本地保存数据，仅与邻居交换模型参数或梯度。机密性要求隐藏这些参数（如通过密码学技术），而拜占庭鲁棒性需要检查参数，两者目标冲