Faults That Fortify: CNN Adversarial Robustness via GPU Undervolting
卷积神经网络（CNN）面临对抗攻击脆弱性和训练成本高昂的双重挑战。对抗训练虽有效但计算开销巨大，尤其在向能量受限的边缘设备迁移时更为突出。本文提出在训练过程中对 GPU 进行欠压（undervolting）处理，通过降低供电电压引入随机故障
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题aiXamine: Unified Black-Box Evaluation of Cross-Dimensional Trade-offs in LLM Safety, Security, and Privacy
本文针对当前大型语言模型（LLM）安全评测中存在的维度割裂问题展开研究。作者指出，现有评测框架通常独立评估安全性、安全性和隐私性，无法捕捉跨维度的失效模式。例如，一个模型可能在安全对齐指标上达到99.3%，却拒绝三分之一的良性查询；或者在所
Auditing Cross-Lingual Fairness in Language Model Watermarking
该论文指出，当前大语言模型（LLM）输出水印方案的评估几乎完全基于英文文本，并且使用固定的检测阈值和狭窄的一组质量测量手段，这使得跨语言部署中的公平性问题被系统性忽视。作者提出了一套跨语言公平性审计框架，包含四个关键组成部分：第一，根据具体
From Noise to Signal: Improving Security Log Anomaly Detection Using LLMs with Endpoint-Specific Logs
该研究针对安全日志异常检测中传统方法（如 Wazuh 规则检测、OpenSearch 统计异常检测）依赖预定义规则或历史行为基线、难以捕捉语义和上下文信息的问题，探索了利用大语言模型（LLM）进行端到端异常认证行为检测的可行性。作者指出已有
Inadvertent Context Leakage in Language Models
本文研究了语言模型在上下文中持有敏感用户数据（如日历、凭证、健康记录和财务信息）时发生的意外信息泄漏问题。作者首先探索了这样一个核心问题：即使模型正确拒绝了直接的秘密提取请求，秘密在上下文窗口中的存在是否会在模型的良性输出中引入隐藏相关性，
Geometric Data Perturbation with Noisy-Anchor Alignment for Privacy-Preserving Collaborative Learning
本文研究隐私保护的协作学习场景。在GDP框架下，各参与方对私有数据应用距离保持变换，仅上传变换后的表示给中央分析者，以实现一次性协作学习。然而，在分析者与部分参与方共谋时，分析者可利用共谋者披露的数据与变换，结合所有上传表示，尝试恢复非共谋
FedLNS: Leverage LayerNorm Signature Modeling to Mitigate Adversarial Manipulation in Federated LLMs
本文针对联邦学习（Federated Learning, FL）中大型语言模型（LLM）面临的恶意客户端投毒攻击问题，提出了一种轻量级、服务器端的防御框架 FedLNS（Federated Learning with Normalizati
Denoising-Aware Inversion: Revealing Privacy Risks in Noise-Protected Text Embeddings
本文研究噪声保护下的文本嵌入反演攻击问题。文本嵌入被广泛用于数据挖掘、检索和机器学习系统，但近期的嵌入反演攻击表明，攻击者可以从嵌入向量中重建原始文本的敏感信息，造成严重隐私泄露。一种常见的防御手段是向嵌入向量中添加高斯噪声以扰动输出，该方
VQC-ZTI: Variational Quantum Control for Zero Trust Protection of the Tactile Internet
触觉互联网将网络事件与物理执行直接耦合，因此安全决策必须在提升风险识别精度的同时不干扰控制链路。本文提出 VQC-ZTI（Variational Quantum Control for Zero Trust Protection of th
Task-Conditioned Least-Privilege Learning for Executable Terminal and MCP Agents
本文研究面向可执行终端与模型上下文协议（MCP）环境中工具使用型大语言模型（LLM）代理的最小权限学习问题。LLM 代理在执行任务时，可能行使超出用户授予或任务所需的权限，导致“过度授权”错误。传统的权限门控系统在验证代理环境时存在不足，因
Evaluating Structured Information Extraction with Open Models in a High Risk Public Sector Application
本文针对公共部门中高风险场景下的结构化信息抽取任务，系统评估了开源模型（OCR引擎、大语言模型LLM和视觉语言模型VLM）的端到端性能。研究背景是，虽然专有方案在商业应用中占主导，但开源组件组合成的抽取流水线正成为可行替代，然而在真实多步骤
Model Card for OpenAI Privacy Filter
本文介绍了 OpenAI 发布的 Privacy Filter 模型卡。该模型是一个紧凑的双向 token 分类模型，用于在非结构化文本中检测和脱敏个人身份信息（PII）与密钥。它基于自回归预训练检查点，通过转换为双向带状注意力分类器，能够
Redakto - The Incognito Tab for LLMs
本文提出并实现了一个名为 Redakto 的开源工具，旨在解决大型语言模型（LLM）使用过程中的隐私保护问题，特别是针对欧盟新法规下个人可识别信息（PII）泄露的风险。随着 LLM 在各类应用中的普及，输入文本可能包含敏感信息，直接提供给模
Diff-DDoS: Realistic Cyber-Physical Attack Synthesis and Robust Detection for 5G-Enabled CPS Using Tabular Diffusion Models
本文针对5G赋能的网络物理系统（CPS）中基于深度学习的DDoS检测器所面临的两大挑战：标注攻击数据稀缺，以及现有合成攻击样本不真实。传统检测器在手工构造、使用固定缩放因子的攻击样本上训练，一旦遭遇符合真实分布的攻击流量，性能会急剧下降（F
MemCatalyst: Amplifying Data Auditing on Vision-Language Models via Data Poisoning
本文提出 MemCatalyst，一套面向视觉-语言模型（VLM）的数据投毒工具，旨在增强数据审计（尤其是成员推理攻击）的有效性。研究背景是：VLM 依赖海量互联网数据训练，数据持有人（如艺术家）迫切需要确认自己的数据是否被未经授权用于模型
Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings
该论文针对大型语言模型（LLM）在实际部署中面临的安全挑战——攻击者通过精心构造的提示词（prompt）绕过安全控制。现有防护方法（如 LLM-as-a-judge 和基于云的安全 API）虽能检测不安全内容，但每次请求会增加约 250-9
On the Pseudo-Mixing of Kac's Walk
本文研究 Kac 游走（Kac's walk）的伪混合性质，该游走是 SO(n) 上的一种马尔可夫链，在每次迭代中随机选取两个坐标并应用一个随机旋转。伪混合的概念由 Vaikuntanathan 和 Zamir 提出猜想，关注的是：在低复杂
Picture the Epsilon: Pursuing Identity-Level Privacy Guarantees for Images
本文聚焦于图像到图像的人脸生成器（如 FaceFusion、InstantID）的隐私审计问题。尽管视觉差异常被当作隐私保护证据，但作者指出这种直观判断缺乏形式化的身份级隐私保证。为此，他们提出一个统一的审计框架，比较四种适用于预训练黑盒人
Digital Twin-Based Intrusion Detection for Vehicle Powertrain CAN Bus Systems
该论文提出了一种基于数字孪生（Digital Twin, DT）的入侵检测系统（IDS），用于车辆动力总成控制器局域网（CAN）总线，旨在检测那些保持正常消息时序、频率或序列但操纵有效载荷的隐蔽攻击。现有CAN入侵检测方法主要关注消息时序或
Certified but Private: Scalable Zero-Knowledge Proofs for Neural Network Guarantees
本文提出 PANDA，一个基于零知识证明（ZKP）的可扩展系统，用于在保护神经网络模型参数私密性的同时，形式化地证明模型的鲁棒性和公平性。随着机器学习模型在安全关键和法律合规场景中的部署日益增多，模型的鲁棒性和公平性保证变得重要，但模型参数