Global Sketch-Based Watermarking for Diffusion Language Models
该论文提出了一种针对扩散语言模型的全局草图水印方法。与自回归模型中逐token顺序生成并依赖局部上下文的水印方案不同，扩散语言模型在生成过程中同时采样多个未确定位置的分布，使得整个序列的加性统计量在生成时是可处理的。作者利用这一特性，设计了
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题CyberGym-E2E: Scalable Real-World Benchmark for AI Agents' End-to-End Cybersecurity Capabilities
该论文提出了 CyberGym-E2E，一个大规模、真实的端到端网络安全基准测试，旨在全面评估 AI 代理在软件漏洞发现、PoC 生成和补丁生成整个生命周期中的能力。现有 AI 安全评估在规模或范围上存在局限，未能捕捉真实世界漏洞发现和修复
DPDL: Towards Differential Privacy Preservation in Decentralized Stochastic Learning on Non-IID Data
该论文针对去中心化学习（Decentralized Learning）中的隐私保护问题展开研究。在去中心化学习中，多个智能体（Agent）在没有中心服务器的情况下协作训练全局模型，通过交换梯度信息来更新模型。然而，这种梯度交换会带来严重的隐
TITAN-FedAnil+: Trust-Based Adaptive Blockchain Federated Learning for Resource-Constrained Intelligent Enterprises
该论文提出了一种名为 TITAN-FedAnil+ 的联邦学习框架，旨在解决资源受限智能企业环境中的数据异质性（非独立同分布数据）和去中心化安全威胁。核心贡献包括：1) 基于亲和传播的自适应聚类聚合方法，无需预先知道攻击者数量即可识别并过滤
Revisiting Privacy Amplification by Subsampling in Selective Release DPSGD
本文针对差分隐私随机梯度下降（DPSGD）中隐私核算不严谨的问题进行研究。DPSGD通过在梯度上添加噪声并裁剪梯度来保护隐私，但这会导致模型效用显著下降且收敛缓慢。先前的工作，特别是差分隐私选择性更新与释放（DPSUR）算法，通过选择性更新
Federated Learning for Multi-Center Sepsis Early Prediction with Privacy-Preserving
该论文研究了联邦学习在跨中心败血症早期预测中的应用。败血症早期预测需要多中心医疗数据，但数据隐私和分布式特性阻碍了集中式建模。联邦学习允许多个机构在不共享原始数据的情况下联合训练模型，但其实际性能、鲁棒性和隐私保护优势尚未在真实临床数据中得
Toward a Generalized Defense Across Sparse, Continuous, and Structured Parameter Attacks
该论文提出了一种名为 ParDef 的通用防御方法，旨在保护深度神经网络 (DNN) 在异构、部分不可信环境（如云存储、CI/CD 管道、容器化服务和边缘执行平台）中部署时免受参数攻击。参数攻击直接篡改模型内部参数，影响所有后续推理，且攻击
Long-Term and Short-Term Transistor Aging in Deep Neural Networks: Impact and Mitigation
深度神经网络（DNN）在图像分类、语音识别等实际应用中广泛部署，但其在集成电路（IC）硬件上实现的推理精度会因晶体管老化现象而下降。老化会降低晶体管的开关速度，导致系统级时序违规（因时钟无法维持）。为保证整个预期寿命内的可靠性，设计人员通常
MimeLens: Position-Agnostic Content-Type Detection for Binary Fragments
该论文提出了一种名为 MimeLens 的新型内容类型检测方法，旨在解决现有方法（如 Google 的 Magika）在输入不完整、位置未知的二进制片段（例如单个网络包载荷、无文件头的文件碎片、随机磁盘块等）时失效的问题。MimeLens
When Autoregressive Consistency Hurts Safety Alignment
本文研究了大型语言模型（LLM）安全对齐的脆弱性，提出其根本原因在于自回归一致性——即自回归模型在预测下一个token时倾向于保持并延续当前生成轨迹的特性。作者通过分析安全对齐微调的学习动态，发现对齐更新主要集中在输出序列的前几个token
Large Language Models Hack Rewards, and Society
该论文探讨了大型语言模型（LLM）在强化学习（RL）后训练阶段中可能出现的“奖励黑客”（reward hacking）行为如何扩展到更广泛的社会层面，即“社会黑客”（societal hacking）。作者指出，社会规则与奖励函数在结构上具
AI Agents Enable Adaptive Computer Worms
该论文提出了一种基于人工智能（AI）代理的新型自适应计算机蠕虫。传统蠕虫（如WannaCry）利用固定漏洞进行传播，可通过打补丁阻断。而本文展示的AI蠕虫能够在感染每台机器后，利用被入侵设备上的开源大语言模型（LLM）进行推理，针对每个新目
PURGE: Projected Unlearning via Retain-Guided Erasure
本文提出了一种名为 PURGE 的机器遗忘算法，其核心思想基于持续学习（Continual Learning, CL）与机器遗忘（Machine Unlearning, MU）的本质二元性：持续学习旨在学习新任务而不遗忘旧知识，而机器遗忘则
Covert Influence Between Language Models
该论文研究语言模型之间的隐蔽影响（covert influence）现象，即一个发送者模型通过人类无法察觉的载体（carriers）将其行为倾向（payload）传递给接收者模型。作者在三种接口上刻画了这种风险：监督微调（SFT）、在线策略
Bayesian Membership Privacy for Graph Neural Networks
针对图神经网络（GNN）的现有隐私分析大多继承自非图数据场景的假设，忽略了结构依赖性和随机训练图采样。尤其是节点相关的先验导致仅凭第一类和第二类错误无法充分刻画最佳成员推断测试。为此，本文提出贝叶斯成员隐私（BMP），一种采样感知的节点级成
Black-box, Adaptive, Efficient, Transferable, Harmful, Applicable... Attacks Are All You Need to Break LLMs
该论文针对大型语言模型（LLM）的对抗鲁棒性评估缺乏标准化基准的问题，提出了一种新的攻击方法——间接危害优化（Indirect Harm Optimization, IHO）。目前，LLM的越狱攻击评估存在诸多缺陷：攻击设计不完善会导致鲁棒
High-Precision APT Malware Attribution with Out-of-Scope Resilience
该论文针对高级持续性威胁（APT）恶意软件归因问题提出了一种高精度方法。现有方法通常作为闭集分类器在有限数量的已知APT组上进行训练和评估，但在实际运营环境中，分类器可能遇到来自训练中未出现的组的样本，闭集分类器会错误地将这些样本归入已知组
A Hybrid Approach For Malware Classification Using Secondary Features Fusion
随着恶意软件（包括变种和新型）数量快速增长，恶意软件的检测与缓解成为一个复杂问题。传统的恶意软件检测方法虽然能识别恶意软件，但无法将其归类到具体的家族，这阻碍了后续的针对性和有效响应。针对这一挑战，本文提出了一种混合方法，用于自动化恶意软件
RUBAS: Rubric-Based Reinforcement Learning for Agent Safety
随着大语言模型（LLM）发展为能够使用工具（tool-enabled）的智能代理（agent），安全问题从单纯的文本生成扩展到实际执行环节，带来了新的挑战。现有的对齐方法（如基于拒绝信号的强化学习或静态监督）难以在安全性和工具执行有用性之间
RogueMerge: Robust and Unified Attacks against LLM Model Merging
本文提出了 RogueMerge，一个针对大语言模型（LLM）模型合并过程的统一攻击框架。模型合并通过聚合来自未经验证的公共平台的任务向量，将多个专用能力组合到单个 LLM 中，这暴露了关键的供应链攻击面：因为任何恶意行为都可以编码到任务向