FLIPS: Instance-Fingerprinting for LLMs via Pseudo-random Sequences
该论文提出了一种针对大型语言模型（LLM）的实例级指纹识别方法FLIPS。当前LLM的指纹识别技术主要服务于知识产权保护，其设计偏向于对实例级参数（如指令提示、采样配置、量化方式等）变化的鲁棒性，然而这导致无法区分同一模型的不同配置。但AI
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Decoupled Smart Contract Audits: Lightweight LLM Framework via Distillation and Aggregation
该论文提出了一种轻量级的智能合约安全审计框架，利用经过蒸馏和聚合的开放源码大语言模型（LLM）来应对现有基于LLM的审计方法存在的计算开销大、缺乏严重性评估以及可操作修复建议等问题。框架将审计任务解耦为四个独立模块：漏洞检测、漏洞解释、严重
Patcher: Post-Hoc Patching of Backdoored Large Language Models
本文提出一种名为 Patcher 的后处理防御框架，用于修复被植入后门的大语言模型。大语言模型容易受到越狱后门攻击，攻击者通过污染安全对齐数据来嵌入隐藏触发器，从而绕过安全机制。现有防御方法通常需要全面的攻击信息或多个触发样本，但在实际中防
Gate AI: LLM Security Benchmark Evaluation Methodology and Results
这篇论文提出了一种针对大型语言模型（LLM）的提示注入（prompt-injection）和越狱（jailbreak）检测器的基准评估方法学，旨在解决现有评估中两个系统性弱点：每个数据集单独调整阈值以及未公开的操作点。作者设计了一个评估框架
Outsmarting the Chameleon: Counterfactual Decoupling for Tactical OOD Shifts in Live Streaming Risk Assessment
直播已成为社交互动和数字商务的主要媒介，但也面临日益复杂的风险。一个根本性挑战是战术型分布外（OOD）偏移：恶意行为者保持其稳定底层意图（如欺诈），但不断重新设计叙事包装（如话术、场景）以逃避检测。现有OOD泛化范式假设难以满足，因为意图与
IntraShuffler: A Privacy Preserving Framework for Heterogeneous DP Federated Learning
联邦学习（FL）中，异构差分隐私（HDP）允许客户端根据自身策略和数据敏感度选择不同的隐私预算（ε_i）。现有HDP-FL系统常采用ε感知的服务器聚合，通过根据客户端声明的隐私预算重新加权其梯度更新来提升模型效用。然而，联邦学习中的梯度更新
ContinuousBench: Can Differentially Private Synthetic Text Improve Capabilities?
差分隐私（DP）文本合成技术旨在通过生成合成数据来解锁敏感语料库，使其可用于模型训练，同时保护隐私。然而，现有评估基准存在重大局限性：它们使用的任务通常即使不经过训练也能近乎解决，因此强基准性能并不能证明DP合成数据能够替代原始数据访问。为
Fair Finetuning Mitigates Distribution Inference Attacks
本文研究了机器学习模型在敏感数据训练时可能泄露训练分布群体信息的问题，即分布推断攻击（DIA）。攻击者仅通过黑盒访问模型，即可推断出敏感的人口统计属性（如子群体比例）。现有防御手段如差分隐私和属性遗忘已有相关研究，但公平性约束与分布泄漏之间
IstGPT: LLM-based Anomaly Detection for Spatial-Temporal Graph in Industrial Systems
本文提出 IstGPT，一种基于大语言模型（LLM）和图神经网络的工业系统异常检测工具。工业互联网系统面临复杂的 ICS 攻击，现有工具难以实时检测传感器与执行器之间的复杂依赖关系。IstGPT 首先利用工业多模态知识（包括运行数据、技术文
Near-Optimal Pure Machine Unlearning for Smooth Strongly Convex Losses
本文研究了机器学习中的“遗忘”（unlearning）问题，即如何从已训练好的模型中移除某个用户数据的影响，以满足如“被遗忘权”等法律和用户需求。针对光滑强凸损失函数下的随机优化场景，前期工作已经提出了一些遗忘算法及其误差界，但遗忘的统计代
Differentially Private Datastore Generation for Retrieval-Augmented Inference
该论文研究面向检索增强推理的差分隐私数据存储生成问题。现代设备端AI系统常依赖检索增强推理，需要共享或发布数据存储（datastore），但可能泄露个体隐私。差分隐私（DP）提供形式化保证，使个体贡献在对抗分析下不可区分。本文提出一种基于哈
A Lightweight Hybrid MLP-Based Framework for Real-Time Phishing URL Detection Using Structural URL Features
该论文针对传统钓鱼URL检测方法（黑名单、规则匹配）对新出现的钓鱼URL反应迟缓的问题，提出了一种轻量级混合实时检测框架。框架结合黑名单预筛选与多层感知机（MLP）分类器，MLP仅利用URL的结构特征（如长度、域名层级、特殊字符统计等）进行
Cross-Generational Transfer of Adversarial Attacks Reveals Non-Monotonic Safety Alignment in LLMs
本文研究了大型语言模型 (LLM) 在跨代际间的安全对齐是否单调提升。作者选取 Google 的 Gemma 系列四代模型（7B-31B），采用质量多样性进化算法（MAP-Elites）作为自动化红队探测工具，对模型进行对抗性攻击生成和评估
Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety
当前针对大型语言模型（LLM）的对抗性测试方法存在覆盖不足的问题：人工红队测试难以规模化、LLM作为攻击者的方法容易出现模式崩溃（产生重复或相似攻击）、基于梯度的攻击则生成不可读的乱码。本文提出一种质量多样性（Quality-Diversi
Same Payload, Different Channel: Measuring Trust Asymmetry in Tool-Using Language Models
本文研究语言模型在扮演代理角色时，不同信息通道（用户消息、工具元数据、工具输出）对恶意指令的响应差异。作者提出安全不对称分数（Safety Asymmetry Score, SAS），通过保持恶意文本内容相同、仅改变传递上下文，衡量模型对来
PE-means: Improved Differentially Private $k$-means Clustering through Private Evolution
本研究针对欧氏空间中差分隐私（DP）k-均值聚类问题展开。现有解决方案直接对原始数据进行加和，导致敏感度与数据域的大小成正比。本文提出PE-means方法，将私有进化（Private Evolution, PE）算法（一种在合成数据生成中日
Bit-Exact AI Inference Verification Without Performance Tradeoffs
该论文研究了AI推理验证中的关键问题：在GPU浮点运算的非确定性环境下，如何实现比特精确的推理结果验证，而无需牺牲性能。现有方法依赖近似匹配，这可能被隐蔽对手利用未验证的自由度进行攻击，如通过隐写术、未报告的软件修改或隐藏的批处理元素执行恶
GETA: Generalized Encrypted Traffic Analysis
论文《GETA: Generalized Encrypted Traffic Analysis》针对传统流量分析在加密和隐私保护协议普及下面临的挑战。当前方法多依赖协议特定的头部特征（如端口号、协议类型）或深度包检测（DPI），但加密使载荷
Latent Geometric Chords for Query-Efficient Decision-Based Adversarial Attacks
该论文聚焦于决策型黑盒对抗攻击（decision-based black-box adversarial attacks）这一严重安全威胁。现有方法存在根本性局限：像素级攻击常引入不自然的高频视觉伪影，而潜在空间框架受限于低维流形的搜索空间
Improving IoT Intrusion Detection Through SMOTE-Based Oversampling and Extended Multi-Model Evaluation on Side-Channel Power Data
该论文聚焦于物联网(IoT)网络入侵检测中的类别不平衡问题。侧信道功率数据集中正常样本与攻击样本的比例可达75,964比1，严重影响了机器学习模型的检测性能。此前Dominguez等人提出了基于功率的入侵检测概念验证，但未处理类别不平衡，也