Controlled Decoding Attacks on Black-Box LLMs
该论文关注大模型安全对齐在解码阶段的脆弱性: 操纵生成过程中的下一个 token 概率分布可以绕过对齐约束。但已有方法普遍依赖模型权重或数值化的 token 概率(logprobs), 因此对只返回采样文本的黑盒接口完全无效。作者尝试从采样
#black-box-attack
共收录 24 条相关情报。
← 返回所有主题DeMark: A Query-Free Black-Box Attack for Quality-Preserving Audio Watermark Removal
该论文关注学习型音频水印在真实对抗场景下的安全性, 提出了一种无需查询、也无需访问水印编码器 / 解码器 / 检测器的黑盒水印去除方法 DeMark。研究动机在于: 现有去除攻击要么依赖模型反馈(需要反复查询目标系统), 要么需要成对的干净
JevAdvBench: A Benchmark and Black-Box Attacks for Reinforcement Learning for Calibrated Decisions Models
该论文研究的是「面向校准决策的强化学习」(RLCD, reinforcement learning for calibrated decisions) 模型的对抗鲁棒性问题，代表模型是 Jev。这类模型与常规生成式模型不同：它接收输入(称为
Extracting CNNs in the Unknown-Architecture and Feedback-Agnostic Setting
该论文研究卷积神经网络（CNN）的密码分析式模型提取（cryptanalytic extraction），即在无法接触模型内部实现的前提下，仅通过黑盒查询反推网络结构与权重参数。此前的同类攻击普遍假设目标网络的架构已知，攻击目标仅限于恢复模
GuidedRay: Diversity-Guided Direction Discovery for Targeted Hard-Label Black-Box Attacks
该论文研究的是深度神经网络在黑盒设定下的定向对抗攻击问题，属于对抗机器学习领域兼具理论难度与工程意义的课题。背景是：DNN 对微小扰动敏感，而攻击按信息可见性可分为白盒与黑盒；黑盒中又以 decision-based（仅返回 top-1 标
Reinforcement Learning Inspired Black-box Adversarial Attacks for Computer Vision
本文关注深度视觉模型在对抗性扰动下的脆弱性问题。基于卷积网络或 Transformer 的神经网络已成为现代计算机视觉系统的核心组件，但已有研究表明，人眼几乎不可察觉的微小扰动即可显著改变模型预测结果，这对自动驾驶、医疗影像、工业质检等安全
CIG-MIA: Context-Induced Information Gain Membership Inference Attacks against Retrieval-Augmented Generation
该论文研究的是针对检索增强生成(RAG)系统的知识库成员推断攻击(Membership Inference
Cryptanalytic Extraction of Neural Networks Without Known Architecture Assumption
本文研究神经网络模型窃取中的一个经典问题：密码分析式提取（cryptanalytic extraction）。这类攻击仅凭对模型原始输出（如 logits 或完整概率向量）的黑盒访问，就能恢复网络参数。然而，以往所有此类攻击都建立在一个根本
What Makes Adversarial Examples Transfer Across Deepfake Detectors?
深度伪造（deepfake）检测器普遍面临基于迁移的黑盒攻击威胁：攻击者在一个本地替代模型（source surrogate）上构造对抗样本，再直接投放到未知的目标检测器（target）上，从而在不接触目标模型的情况下实现绕过。然而，源模型
DRIFT: Removing Diffusion Watermarks by Deflecting the Generative Trajectory
扩散模型水印技术通过在生成过程中嵌入可验证信号，并在验证时恢复与生成轨迹相关的证据来确认水印，因此对常规的像素空间扰动具有较强的鲁棒性。已有的水印去除攻击要么沿确定性轨迹执行再扩散，但这类轨迹往往保留了含有水印的潜在结构；要么需要对每张图像
AgentLeak: Cloning Stronger LLM Agent Capabilities onto Weaker Agents Beyond Skill Stealing
本文提出一种针对大语言模型（LLM）智能体的新型黑盒能力克隆攻击方法 AgentLeak。研究背景是：LLM 智能体通过基础模型与显式技能（skills）及执行中获得的隐式程序性知识相结合，能够完成长期任务，这种任务解决能力已成为宝贵的商业
Inferring Hidden User Models from the Behavior of Personalized LLM Agents
该论文研究了个性化大语言模型（LLM）智能体的隐私泄露风险。随着LLM智能体将用户记忆转化为压缩或结构化表示（称为用户模型）以指导后续决策，尽管源文本在普通接口可达的状态中被移除，此类模型仍被视为具有更好的隐私保护性，因为直接的内存提取攻击
OASIS: Optimizing Attacker Sequences for Hard-Label Black-Box Text Attacks
本文介绍了一种名为 OASIS 的方法，旨在优化硬标签黑盒文本攻击中的攻击者序列。传统上，不同攻击方法遵循不同的搜索轨迹，且各自在不同样本子集上取得成功，但已有硬标签黑盒攻击主要关注改进单个攻击者，或通过手动方式简单组合多个攻击者。OASI
Daydreaming: Stealing Hidden Agent Skills through Black-Box Task Interaction
本文提出了一种名为 Daydreaming 的黑盒攻击方法，用于窃取托管在多文件技能（skill）中的智能体能力。在当代 AI 智能体系统中，技能包通常包含指令、参考数据和可执行辅助脚本，使通用模型能够执行特定任务。服务提供商可以保守这些文
Black-box Adversarial Example Attack towards FCG Based Android Malware Detection under Incomplete Feature Information.
本文研究基于函数调用图（FCG）的Android恶意软件检测方法在面对对抗样本时的脆弱性，并提出了一种名为BagAmmo的新型黑盒对抗攻击方法。现有FCG检测方法（如MaMaDroid、APIGraph、GCN）虽性能优异，但攻击者可通过向
SegPAR: Class-Centric Decision-Based Sparse Attack for Semantic Segmentation
本文聚焦于语义分割任务中的决策黑盒稀疏攻击问题。尽管稀疏决策黑盒攻击在分类领域已有研究，但在语义分割中尚缺乏系统性探索。作者首先将分类域中最具代表性的决策黑盒稀疏攻击方法改编至语义分割场景，构建了该未充分研究区域的基准测试。通过基准分析，发
DP-Sniper: Black-Box Discovery of Differential Privacy Violations using Classifiers.
DP-Sniper 是一种实用的黑盒方法，用于自动发现差分隐私（Differential Privacy, DP）实现中的违规行为。差分隐私是保护数据隐私的严格数学定义，但实际实现常因浮点误差、算法简化或实现缺陷而违背其保证。DP-Snip
Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence.
该论文提出了一种全新的黑盒对抗攻击范式——可认证黑盒攻击（Certifiable Black-Box Attacks），旨在从理论上保证攻击成功率（Attack Success Probability, ASP），而不像传统黑盒攻击那样依赖
Behavioral Skill Reconstruction: Reconstructing Hidden Functionality from LLM Agent Skills
该论文提出了“行为技能重建”（Behavioral Skill Reconstruction, BSR）问题，聚焦于闭源 LLM Agent 技能（skill）的功能泄露风险。此前研究主要关注提示注入攻击，试图直接披露技能中隐藏的指令、脚本
LLM-Guided Program Evolution for Targeted Black-Box Attacks on Perceptual Hash Algorithms
该论文提出了一种基于大语言模型引导的演化框架（结合GigaEvo和OpenEvolve），用于对感知哈希算法（PHA）实施有针对性的黑盒第二图像攻击。感知哈希算法广泛应用于图像篡改检测，但对抗性扰动的鲁棒性研究不足。作者设计了一个复合评分函