Rotation-Invariant Spherical Watermarking via Third-Order SO(3) Representation Coupling
该论文提出了一种针对全景图像（panoramic imagery）的旋转不变水印方法。全景图像定义在球面上，其内容会随任意3D旋转（SO(3)群作用）而变化，传统平面水印方法或基于数据增强的鲁棒策略无法从理论上保证旋转不变性。作者利用SO(
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Cordyceps: Covert Control Attacks on LLMs via Data Poisoning
大型语言模型（LLM）通常使用未经过滤的文本数据集进行微调，而对手可以污染这些数据集。现有的数据投毒攻击主要依赖于固定的触发短语，这些短语可以被异常检测、干净数据正则化或在线监控等防御手段中和。本文提出了一种新的数据投毒方法，通过共享知识（
SEC-bench Pro: Can Language Models Solve Long-Horizon Software Security Tasks?
大型语言模型（LLM）已开始支持自动化软件安全任务，如漏洞发现和概念验证（PoC）生成。然而，现有基准测试依赖模糊测试框架、目标特定描述或漏洞复现任务，未能真实评估LLM在实际漏洞挖掘场景中的表现。为此，本文提出了SEC-bench Pro
Open-Weight LLM Fine-Tuning Defenses are Susceptible to Simple Attacks
该论文研究了当前针对开源权重大语言模型（LLMs）的安全微调防御措施，这些措施旨在防止模型被用于有害目的。然而，预训练的LLMs本身已编码了大量有害知识，这意味着攻击者可能无需额外微调，仅通过提示注入或越狱方式就能诱导模型产生有害输出。论文
Jailbreak susceptibility prediction and mitigation via the behavioral geometry of models
本文研究生成式大语言模型（LLM）对越狱攻击（jailbreak attack）的易感性预测与缓解问题。直接对所有模型配置进行完整评估和优化在实际中不可行，因为可部署的系统数量庞大。为此，作者提出了一种基于模型群体行为几何（behavior
Building an Adversarial Malware Dataset by Family and Type: Generation, Evasion, and Poisoning Evaluation
该论文提出了一个对抗性恶意软件数据集，基于公开的RawMal-TF真实恶意软件二进制文件集合。作者使用一套对抗性恶意软件生成器，构建了两个对抗性PE文件数据集：一个包含44,347个按家族标记的样本，另一个包含33,596个按类型标记的样本
Capability and Robustness Cannot Both Be Free: An Information-Theoretic Bound for Vision-Language-Action Models
该论文研究了视觉-语言-动作（VLA）模型在机器人部署中的能力与鲁棒性之间的理论权衡。VLA模型在干净输入上表现出高成功率（如OpenVLA-7B在LIBERO基准上超过95%），但在微小对抗扰动下性能急剧下降（例如16/255的PGD攻击
On Reliability of Efficient Membership Inference Vulnerability Evaluation
本文研究成员推理攻击（MIA）在评估模型训练数据泄露时的可靠性问题。MIA通过二分类器预测样本是否属于训练集，通常使用假阳性率（FPR）和真阳性率（TPR）衡量漏洞。然而，可靠估计低FPR下的TPR需要大量目标模型，计算成本高昂。为了降低开
When Interpretability Becomes a Liability: Adversarial Attacks on CBM Concept Layers
概念瓶颈模型（CBM）是可解释机器学习的重要方法，通过显式的概念激活提供人类可理解的中间表示。然而，这种可解释性引入了一个此前未被探索的攻击面：概念瓶颈层本身。本文首次系统性地研究了CBM在概念层面的对抗性脆弱性，发现针对输入像素的微小、定
Enhancing Autonomous Online Intrusion Detection for IoT with Balanced Learning, Reliable Pseudo-Labels, and Lightweight Architectures
本文针对物联网（IoT）环境中的入侵检测系统（IDS）面临的自适应、资源高效需求，研究了AOC-IDS——一种在IEEE INFOCOM 2024上提出的先进自主在线IDS。作者首先在UNSW-NB15基准上成功复现了AOC-IDS，获得了
Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions
该论文系统综述了大语言模型（LLM）微调生命周期中的安全问题。背景：微调是使预训练LLM适应下游任务的核心技术，但其对训练数据、参数更新和可复用组件的依赖为攻击者提供了入口。威胁已从数据中毒、权重篡改进化到智能体操纵和接口利用，而现有综述缺
QML-PipeGuard: Drift-Aware Behavioral Fingerprinting for Quantum Machine Learning Pipeline Integrity
量子机器学习（QML）正从研究原型转向云服务部署，进入监管行业后面临两大实际挑战：一是重校准间的硬件噪声漂移，二是攻击者可能控制执行环境，用行为相似但数学上不同的量子通道替换声明的通道。现有QML验证工作（脉冲级噪声、输入漂移、输入扰动鲁棒
Device Context Protocol: A Compact, Safety-First Architecture for LLM-Driven Control of Constrained Devices
该论文针对大型语言模型（LLM）通过工具调用控制物理设备时面临的安全挑战，提出了一种名为Device Context Protocol（DCP）的紧凑、安全优先的通信协议。现有方案如Model Context Protocol（MCP）及其
Furina: Fragmented Uncertainty-Driven Refusal Instability Attack
该论文挑战了主流观点：大语言模型（LLM）和多模态大语言模型（MLLM）的安全对齐并非近似二元的阈值机制。作者通过实验揭示，安全行为实际上由一个不稳定性区域（instability region）主导，在该区域内，微小的扰动会导致模型做出随
Memory-Induced Tool-Drift in LLM Agents
该论文研究了现代LLM代理系统中长期记忆与工具调用接口结合时出现的一种新故障模式：存储在记忆中的个性驱动偏见（如成本意识、不耐烦、风险承受能力等）会在不相关的情境中悄然影响工具调用，作者称之为“记忆诱导的工具漂移”。为了系统化研究这一现象，
SEED: Semi-supervised Continual MalwarE Detection for Tackling ConcEpt Drift on a BuDget
该论文针对基于机器学习的恶意软件检测器因概念漂移（即良性软件和恶意软件随时间演变导致检测模型过时）而性能下降的问题，提出了一种名为 SEED 的半监督持续恶意软件检测方法。现有方法（如使用层次对比损失 HCL 结合主动学习）依赖大量标注数据
Turning Bias into Bugs: Bandit-Guided Style Manipulation Attacks on LLM Judges
本文针对LLM作为评判者（LLM-as-a-judge）模式中存在的文体偏见问题，提出了一种名为BITE（BIas exploraTion and Exploitation）的黑盒对抗攻击框架。研究背景是：LLM评判器在评估文本时，会表现出
RouteScan: A Non-Intrusive Approach to Auditing MoE LLMs Safety via Expert Routing Telemetry
本文针对混合专家（MoE）大规模语言模型在部署中的安全审计问题，提出了一种非侵入式的审计框架RouteScan。现有的基于内容的审计方法需要访问用户提示、模型输入或生成输出，这可能导致敏感用户信息泄露，在LLM安全性与用户隐私之间产生根本性
CyberMaskQA: A Privacy-Aware Benchmark for Evaluating Large Language Models in Cybersecurity Question Answering
本论文提出并构建了 CYBERMASKQA，一个面向网络安全问答的隐私感知基准数据集。当前，大型语言模型（LLM）被越来越多地用于事件响应、漏洞分析等关键网络安全问答任务，但真实操作环境中的系统日志、网络配置等上下文往往包含 IP 地址、主
CALIBURN: A Regime-Sensitivity Study of Operationally Calibrated Streaming Intrusion Detection
该论文针对流式网络入侵检测系统在实际部署中面临的阈值选择难题，提出了一套名为 CALIBURN 的流式告警管道。传统方法通常将告警阈值作为事后调优参数，无法在部署前根据运营需求（如误报成本、漏报成本和告警预算）明确指定。CALIBURN 由