Region-Level Black-Box Defense Against Stealthy Embedding-Space Backdoors in CLIP
对比语言-图像预训练（CLIP）凭借强大的迁移能力和零样本能力已成为主流视觉骨干网络，广泛用于图像检索、零样本分类与多模态理解。然而近期研究揭示了一类关键漏洞：嵌入空间后门攻击。攻击者只需污染极少量图像-文本对，即可向 CLIP 的联合嵌入
#black-box
共收录 23 条相关情报。
← 返回所有主题POZZER: A Power Side Channel-guided Fuzzer for Black-Box Embedded Systems
该论文针对嵌入式系统固件漏洞挖掘中的黑盒难题提出了 POZZER——一种以功耗侧信道为反馈的模糊测试器。传统覆盖引导的固件模糊测试通常依赖固件插桩、硬件调试接口或固件重宿主(rehosting)来获取执行反馈, 这些手段都以能够访问固件源码
SRD-GUARD: A Defense Framework of LLMs via Semantic Rewriting and Joint Multi-Model Scoring for Latent Intent Exposure
本文提出 SRD-GUARD，一种面向大语言模型（LLM）的免参数、黑盒防御框架，用于对抗越狱（jailbreak）攻击。越狱攻击常通过角色扮演、虚构场景或看似合理的动机隐藏有害意图，现有推理时防御要么漏掉伪装攻击，要么过度拒绝合法请求。S
Black-box Adversarial Attacks on Commercial Speech Platforms with Minimal Information.
该论文研究商用黑盒语音平台（包括云语音 API 和语音控制设备）上的对抗性攻击。现有黑盒攻击通常依赖模型返回的概率分数或置信度信息来生成对抗样本，但服务提供商可以通过不返回这些信息来防御。作者提出两种更贴近实际且条件更严格的攻击方法。针对云
Beyond Small Patches: Black-Box Detection and Purification of Diverse Backdoor Triggers
该论文提出了一种面向实际部署的黑盒后门防御方法 TRIM（Trigger Removal by Identifying Manipulated Regions），用于在推理阶段检测并选择性清除深度神经网络图像分类模型中的后门触发器。后门攻击
Hearing the Whispers: Black-Box Membership Inference Attacks on Finetuned TTS Models
文本转语音（TTS）基础模型正越来越多地被用于在私有数据集上微调以合成高度个性化的声音，但这同时引入了严重的隐私风险，因为语音既包含生物特征身份又包含敏感语音内容。现有的黑盒成员推理攻击（MIA）通常采用查询生成和表示工程两阶段流程，但直接
Black Box Cryptanalysis of AES128
本文提出了一种针对 AES128 的黑盒密码分析方法，基于局部反转（Local Inversion）思想，仅利用正向加密的黑盒计算实现密钥恢复。在已知明文攻击（KPA）场景下，作者通过顺序计算证明了当已知 48 位密钥时，可在实际可行的时间
Fair ASR: Re-Evaluating Black-Box Jailbreaks under Shared Target-Call Budgets
本文提出了一项针对大语言模型（LLM）越狱攻击评估方法的关键改进。当前大多数越狱研究仅以攻击成功率（ASR）作为唯一指标，忽略了攻击预算对结果的影响，导致不同攻击方法之间的比较缺乏公平性。已有的计算感知评估试图将异构资源统一折算为FLOPs
An Empirical Study of Output-to-Input Loops for Black-Box Backdoor Detection in Fine-Tuned Open-Weight LLMs
本研究针对开源权重微调大语言模型（LLM）中后门注入的检测问题进行实证分析。在模型分享平台上，任何人都可以上传自称安全的微调模型，但模型可能内置后门：在普通输入下表现正常，一旦遇到特定触发器则产生恶意行为。对于完全不掌握训练数据、原始干净权
Who is Real Bob? Adversarial Attacks on Speaker Recognition Systems.
该论文针对语音说话人识别系统（SRS）在真实黑盒场景下的安全性进行了首次系统性研究。说话人识别作为生物特征认证和身份识别机制已被广泛使用，但现有对抗攻击研究大多局限于白盒设置，即攻击者对模型结构和参数有完全知识；而在实际应用中，攻击者通常只
Stemma: Induced Decision Regions Reveal LLM Provenance
该论文研究了大语言模型（LLM）的来源追踪（provenance testing）问题，即判断一个待检模型是否与某个源模型属于同一训练或开发谱系。现有黑盒方法大多依赖于模型输出文本的表面特征，但这些特征在模型经过微调、适配或部署环境变化时容
Fuzz'EMup: Leveraging EM Side-Channel Emanation to Guide Black-Box Embedded Firmware Fuzzing
该论文提出了一种名为Fuzz'EMup的方法，利用电磁（EM）侧信道辐射来指导纯黑盒环境下的嵌入式固件模糊测试。随着物联网和嵌入式设备在众多领域的普及，固件安全变得至关重要。模糊测试是一种系统化发现漏洞的有效手段，而覆盖率反馈能通过引导探索
Generative Testing of Automated Speech Recognition Systems
该论文提出了一种名为GATAS的自动语音识别（ASR）系统黑盒测试方法。研究背景是，尽管基于transformer的ASR模型在关键应用中取得了高准确率，但仍容易受到对抗性攻击，尤其是在黑盒场景下，攻击需要保持感知自然性。现有方法通常直接扰
Behind the Refusal: Determining Guardrail Activation via Behavioral Monitoring
本文提出了一种针对大型语言模型（LLM）及智能体系统中防护栏（guardrail）的黑盒侦察方法。在现实应用中，LLM常配备防护栏系统以检测并阻止恶意指令。然而，在进行黑盒对抗模拟时，研究人员难以区分防护栏拦截与LLM自身拒绝响应（LLM
Discard the Dross and Select the Essential: Pre-query Sample Selection for Black-box Membership Inference Attacks
本文针对黑盒成员推理攻击（MIAs）中存在的查询效率问题，提出了一种预查询样本选择框架PSS-MIA。传统的黑盒MIAs对所有候选样本不加区分地进行查询，导致大量查询成本浪费在信息量低的样本上，且增加了查询暴露风险。作者首先定义了问题：哪些
PowerFuzz: Power-Based Black-Box Firmware Fuzzing
本文提出 PowerFuzz，一种基于功耗侧信道测量的统计黑盒固件模糊测试框架。其核心动机是：许多嵌入式系统的固件或二进制文件不公开，导致无法使用依赖执行反馈（如分支覆盖率）的灰盒模糊器。PowerFuzz 无需目标固件的任何内部可见性，仅
Hard-label Black-box Universal Adversarial Patch Attack.
该论文提出了一种硬标签黑盒通用对抗补丁攻击方法。在现实世界的黑盒场景中，攻击者无法获取模型参数、梯度或置信度分数，只能获得最终的硬标签（如分类结果）。现有的对抗补丁攻击通常需要白盒或灰盒访问，或针对特定实例生成。本文首次研究了在硬标签黑盒设
IoTBec: An Accurate and Efficient Recurring Vulnerability Detection Framework for Black Box IoT devices.
本文提出 IoTBec，一种不依赖固件或源代码的物联网设备漏洞检测框架，专门用于发现黑盒设备中重复出现的漏洞。核心思路是构建“漏洞接口签名”（Vulnerability Interface Signature, VIS），该签名基于对黑盒接
ALIF: Low-Cost Adversarial Audio Attacks on Black-Box Speech Platforms using Linguistic Features.
该论文聚焦于语音可控智能设备面临的对抗样本（AE）威胁。已有黑盒对抗攻击仅需目标ASR系统最终转录结果，但通常需要大量查询，成本高昂，且对抗样本易受ASR模型更新影响。作者指出根本原因在于无法直接在深度学习模型决策边界附近构造对抗样本。基于
Beyond Waveform Robustness: Robust Feature-Vocoder Adversarial Attacks on Automatic Speech Recognition
本文针对自动语音识别（ASR）系统的对抗鲁棒性展开研究。现有对抗攻击直接在波形域添加噪声，存在两个主要局限：一是对黑盒ASR系统的迁移性差，二是易被专门防御波形扰动的机制缓解。为此，作者提出了一种基于代理模型的Clean-Reference