LLMs for Secure Hardware Design and Related Problems: Opportunities and Challenges
这篇综述论文系统分析了大型语言模型（LLMs）在电子设计自动化（EDA）和硬件安全领域的应用机遇与挑战。随着半导体行业快速发展，LLMs在生成寄存器传输级（RTL）代码、自动化测试台以及弥合高层规范与硅实现之间的语义鸿沟方面展现出前所未有的
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Acceptance Cards:A Four-Diagnostic Standard for Safe Fine-Tuning Defense Claims
该论文提出了一种名为“Acceptance Cards”的评估标准，用于验证安全微调防御声明的有效性。当前，许多安全微调防御方法仅通过持出集（held-out gap）的减少来证明其有效性，但作者指出，这种减少可能源于采样噪声、主体伪影、能
DRIFT: Drift-Resilient Invariant-Feature Transformer for DGA Detection
论文提出了一种名为 DRIFT（Drift-Resilient Invariant-Feature Transformer）的框架，用于解决基于深度学习的域名生成算法（DGA）检测器在面对时间漂移时性能严重下降的问题。作者通过一项为期9年（
DP-LAC: Lightweight Adaptive Clipping for Differentially Private Federated Fine-tuning of Language Models
本文提出一种名为 DP-LAC 的轻量级自适应裁剪方法，用于解决联邦学习（FL）中差分隐私（DP）随机梯度下降（DP-SGD）的裁剪阈值自调整问题。在联邦微调大规模语言模型（LLM）时，DP-SGD 通过裁剪每个客户端贡献的梯度范数至阈值
MARGIN: Margin-Aware Regularized Geometry for Imbalanced Vulnerability Detection
软件漏洞检测对于确保软件安全性和可靠性至关重要。尽管深度学习取得了进展，但真实世界的漏洞数据集面临两个严重挑战：频率不平衡（少数类漏洞样本稀少）和难度不平衡（易检测与难检测样本的区分度不足）。本文从嵌入几何的角度重新审视这些问题，观察到这种
Differentially Private Sampling from Distributions via Wasserstein Projection
该论文研究差分隐私（DP）约束下的分布采样问题。传统方法使用KL散度等密度比度量评估DP采样效用，但存在两个关键局限：1）无法捕捉支撑集的几何结构；2）当分布支撑集不同时不适用。为克服这些局限，作者提出以Wasserstein距离作为效用度
Deep Learning under Fractional-Order Differential Privacy
本文提出了一种新的差分隐私随机梯度下降（DP-SGD）变体，称为分数阶差分隐私随机梯度下降（FO-DP-SGD）。传统的DP-SGD通过逐样本裁剪、子采样、高斯扰动和隐私会计来保护隐私，每步只释放当前裁剪并加噪的梯度求和。FO-DP-SGD
Nautilus Compass: Black-box Persona Drift Detection for Production LLM Agents
本文提出Nautilus Compass，一个面向生产环境LLM coding agent的黑盒人格漂移检测与记忆层系统。研究背景：LLM agent在长时间会话中会出现人格漂移，例如遗忘用户指定的约束、重复已被用户指出的错误、虚构先前的协
FreeMOCA: Memory-Free Continual Learning for Malicious Code Analysis
FreeMOCA 是一项针对恶意代码分析中持续学习挑战的研究。每年超过 2 亿个新恶意软件样本被发现，传统的反病毒系统仅在新样本上重新训练会导致灾难性遗忘和可利用盲区，而使用全部数据集重新训练则计算成本高昂。FreeMOCA 提出了一种无记
FedAttr: Towards Privacy-preserving Client-Level Attribution in Federated LLM Fine-tuning
该论文提出了一种名为 FedAttr 的新协议，用于在联邦学习（FL）环境下对大型语言模型（LLM）微调过程进行客户端级别的归属分析。传统的基于水印的放射性检测方法已证明在集中式LLM微调中有效，但在联邦学习中面临挑战：联邦学习依赖安全聚合
CLAD: A Clustered Label-Agnostic Federated Learning Framework for Joint Anomaly Detection and Attack Classification
该论文提出了一个名为CLAD的综合框架，用于解决物联网（IoT）和工业物联网（IIoT）环境下的入侵检测问题。随着IoT设备的激增，网络攻击面大幅扩大，传统集中式入侵检测系统面临隐私和扩展性挑战。联邦学习（FL）提供了一种隐私保护方案，但现
PACZero: PAC-Private Fine-Tuning of Language Models via Sign Quantization
本文提出 PACZero，一种基于 PAC（Probably Approximately Correct）隐私的零阶（Zeroth-Order）微调框架，旨在解决大语言模型（LLM）在强隐私保护下的可用性问题。核心思想是利用符号量化（Sig
Gaming the Metric, Not the Harm: Certifying Safety Audits against Strategic Platform Manipulation
该论文研究了英国《在线安全法》和欧盟《数字服务法》等法规中，将标量指标作为在线平台合规证据的可靠性问题。监管机构依赖这些指标，但平台可能通过策略性操作（例如将推荐路由到语义等价但危害不变的内容变体）来优化指标分数，而不真正减少伤害。作者将审
Trade-off Functions for DP-SGD with Subsampling based on Random Shuffling: Tight Upper and Lower Bounds
本文研究了基于随机洗牌子采样（random shuffling）的差分隐私随机梯度下降（DP-SGD）在f-DP框架下的权衡函数（trade-off function）。与传统的泊松子采样（Poisson subsampling）不同，后者
Architecture Matters: Comparing RAG Systems under Knowledge Base Poisoning
该论文系统性地研究了检索增强生成（RAG）系统在知识库投毒攻击下的鲁棒性，重点关注不同RAG架构之间的差异。现有攻击几乎只在简单的“检索-生成”流水线上测试，而本文首次评估了四种典型RAG架构：vanilla RAG（标准流水线）、agen
Privacy Without Losing Place: A Paradigm for Private Retrieval in Spatial RAGs
本文提出了一种名为PAS（Privacy Anchor Substitution）的结构化机制，用于在空间检索增强生成（RAG）系统中实现用户位置隐私保护。与传统的差分隐私方法直接扰动用户位置不同，PAS采用相对锚点编码来表示位置，该编码由
Information Theoretic Adversarial Training of Large Language Models
本文提出一种基于信息论的对抗训练框架WARDEN，用于提升大型语言模型（LLM）对提示注入等对抗攻击的鲁棒性。当前LLM虽经过对齐与安全训练，仍易受新型攻击策略诱导产生有害行为。现有对抗训练方法计算成本高、难以扩展。最近出现的连续对抗训练方
Agentic Vulnerability Reasoning on Windows COM Binaries
本文提出 SLYP，一种端到端智能体管道，用于在 Windows 组件对象模型（COM）二进制文件中发现竞争条件漏洞并生成经调试器验证的利用证明（PoC）。COM 服务以高权限运行且对认证用户广泛可用，其中的竞争条件是本地权限提升的关键攻击
Vol-Mark: A Watermark for 3D Medical Volume Data Via Cubic Difference Expansion and Contrastive Learning
该论文提出了一种名为 Vol-Mark 的新型可逆零水印方法，用于保护远程医疗中 3D 医学体积数据的完整性和所有权。针对医学体积数据在网络共享中面临的数据篡改和未授权复制等安全风险，Vol-Mark 设计了两个核心组件：一是利用对比学习构
Sparse Tokens Suffice: Jailbreaking Audio Language Models via Token-Aware Gradient Optimization
本文针对音频语言模型（ALM）的越狱攻击展开研究。现有的越狱攻击通常在整个音频波形上密集地优化扰动，以诱使ALM生成不安全的内容。作者首先通过分析ALM中token对齐梯度的结构，发现梯度能量在音频token上高度不均匀，即只有少量toke