PassGPT+: Leveraging Linguistic Priors for Password Modeling
本文聚焦于密码这一仍占主导地位的在线认证机制，研究人类如何选择密码——这对防守方的口令强度评估与攻击方的口令猜测模拟同样关键。此前 PassGAN、PassGPT 等深度生成方法已证明可以从泄露口令库中直接学习口令结构，但二者都是从随机初始
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题Security Properties of Neural Networks as Decision Problems
该论文从计算复杂性角度重新审视已部署神经网络的安全认证问题。验证文献长期聚焦鲁棒性等少量性质，但作者指出实际部署中还存在一类未被系统分类的决策问题：模型是否携带训练阶段植入的后门、存储参数故障是否会把网络推入不安全状态、输出是否泄露输入中的
Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
该论文研究多轮（multi-turn）交互场景下 LLM 智能体（agentic system）的安全风险。作者指出的核心问题是：现有防御往往孤立地评估单次动作或单个状态，而攻击者可以将多个单独看都合规的操作逐步组合，最终产生有害结果，这类
Cybersecurity in Edge Computing: A Trust-Aware Federated Hybrid Intrusion Detection Framework
背景与问题：边缘计算把数据处理下沉到终端用户与 IoT 设备附近，降低了时延并缓解回传带宽拥塞，但由于边缘节点异构、资源受限、且往往部署在非受管的管理域中，攻击面被指数级放大，这些节点成为高价值且脆弱的目标。同时，全球范围内的数据隐私法规又
On the Relationship between Model Quantization and Model Inversion Attacks
该论文研究模型量化与模型反演攻击（Model Inversion, MI）之间的定量关系，并据此提出一种兼顾隐私与效用的训练后量化方法。研究背景是：量化通过降低神经网络权重与激活的数值精度来压缩存储与计算开销，已在边缘与部署场景广泛使用；但
Anchoring Adversarial Trajectories to Data Manifolds: A Bilevel Transfer Optimization Framework
该论文关注对抗样本的迁移性（transferability）问题，即在黑盒场景下，用替代（surrogate）模型生成的对抗扰动能否有效误导未见过的受害模型。作者指出，现有迁移攻击存在一个关键瓶颈：轨迹级的几何失配。基于环境空间（ambie
Dagger: Decoupling-based Model Stealing Attack against Graph Neural Networks
随着图神经网络（GNN）被广泛以机器学习即服务（MLaaS）的形式对外提供 API，模型窃取攻击已成为关键安全威胁：攻击者仅通过查询受害模型的黑盒接口，就能训练出一个功能等价的替代（代理）模型，从而窃取专有知识产权并危及依赖该模型的下游安全
Backdoor Mitigation in Decentralized LLM Fine-Tuning
去中心化大语言模型（LLM）微调允许多个机构在不汇聚原始数据、也没有中心协调者的情况下，协作训练一个共享的 LLM。其典型流程是：每一轮中，每个节点在通信图上与邻居交换可训练的适配器（adapter），随后在本地对收到的适配器进行聚合更新。
AutoMark: Enabling Autoresearch to Discover Better LLM Watermarks
该论文《AutoMark: Enabling Autoresearch to Discover Better LLM Watermarks》研究如何让自动化研究代理（autoresearch agents）自主发现新的、更优的大语言模型（L
VStress: Correlation-Aware Auditing and Adaptive Budget Allocation for Repeated Verifiers
该论文针对大模型推理中重复调用验证器（repeated verifier）的场景，指出仅当额外调用能带来条件信息增益时才有价值，否则会造成预算浪费甚至引入相关性偏差。作者提出 VStress——一种可审计的重放契约（auditable re
Safer Content or Firmer Refusals? A Hybrid Perturbation Defense for Alignment under Harmful Fine-tuning
该论文研究"微调即服务"(Fine-tuning-as-a-service)场景下的有害微调(harmful fine-tuning)攻击面: 用户在对齐后的语言模型上用自有数据做微调时, 只需在大量良性样本中混入少量有害数据, 就足以削弱
Does the Unsafe Gradient Survive a Conversation? On the Fragility of Gradient-Based Jailbreak Detection in Multi-Turn Dialogue
该论文研究的是多轮对话场景下基于梯度的越狱（jailbreak）检测器是否依然有效。背景在于：安全对齐的大模型通常以多轮助手形式部署，攻击者可以把恶意意图拆散到多个用户轮次中，而不是塞进单条提示；而 GradSafe 这类基于梯度的越狱检测
Understanding Private Evolution as Learning-Augmented Clustering
本文研究差分隐私合成数据生成算法 Private Evolution（PE）的理论性质与改进方案。PE 是一种在差分隐私约束下生成合成数据的迭代式算法，其工作方式可以形式化为一种 Wasserstein（最优传输）学习过程：算法反复从生成器
FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance
该论文聚焦于受监管行业（尤其是消费金融）中大语言模型的安全失效问题：一些表面上完全无害的用户提问，可能触发模型的安全漏洞，使回答在合规政策边界上逼近甚至越界，带来监管与声誉风险。作者指出，现有自动化红队方法普遍在“攻击有效性”与“生成成本”
Calibrating One-Round Membership Inference with Neighbors
该论文研究成员推断攻击(Membership Inference, MI)在“单轮(one-round)”设定下的信号校准问题。当前最先进的 MI 方法依赖参考模型(在排除目标样本的数据上训练的辅助模型)对每个样本单独进行逐样本校准,从而得
Privacy-Friendly Cohort Determination: Sealed, CSP-Independent In-Browser ML Inference of Professional Segments for Identity-Less Advertising
该论文针对 B2B 广告的定向困境提出 SIF（Sealed Inference Frame）方案。背景是：B2B 广告需要推断浏览者的职业属性（雇主规模与行业、职能、职级），传统做法依赖跨站身份匹配；但 Safari 与 Firefox
Why Backdooring Neural Networks is so Easy?
该论文研究的是神经网络后门攻击中的一个基础理论问题: 攻击者到底需要多大的预算才能构造既成功又隐蔽的后门。作者把攻击者预算拆解为两个量: 训练数据中的投毒比例 π 与触发器强度 α。研究动机来自近期的实证观察: 对大语言模型投毒时, 即使干
Multi-Class, Multi-Tier Network Intrusion Detection: A Comprehensive and Reproducible Benchmark
近年来机器学习与深度学习主导了入侵检测系统（IDS）研究，但大量已发表成果存在指标虚高和基准不可复现的问题。这些问题贯穿 ML/DL 流水线全过程：从数据采集与标注，到特征工程、模型训练与评估。CIC-IDS2017 是网络入侵检测领域常用
Distillation Defenses Easily Break After Reinforcement Learning
该论文研究了针对大语言模型蒸馏攻击的防御措施在攻击者后续进行强化学习训练时失效的问题。蒸馏攻击指攻击者系统性地收集闭源前沿模型的推理轨迹，并以此训练自己的模型，从而以低成本复制其推理能力。现有防御通常只在蒸馏完成后立即评估，隐含假设攻击者不
Share-Borne AI Virus: Memory-Hopping Attacks Across LLM Agents
这篇论文研究的是「共享产物驱动的 AI 病毒」这一失效模式：当 LLM 被部署为有状态助手（能够跨会话保留记忆，并能通过工具读写、修改、创建持久化产物）时，这些产物在用户之间共享，就构成了一条间接通信通道，使原本相互独立的助手之间产生了隐式