When LLM Defenses Backfire: Characterizing Safety, Performance, and Cost Trade-offs
本文系统性地研究了大型语言模型（LLM）的越狱防御措施在安全性、性能和成本之间的权衡。作者指出，防御措施在提升安全性的同时，可能引入二次代价，例如降低模型实用性、对良性输入过度拒绝以及增加推理开销。与以往将防御视为单一类别不同，本文根据操作
#cs.LG
共收录 1067 条相关情报。
← 返回所有主题EXE-Bench: Ranking the Tradeoffs of AI-based Windows Malware Detectors for Real-World Usability
该论文指出现有基于AI的Windows恶意软件检测器缺乏系统性的评估方法，导致无法确定哪种模型适合实际部署。现有评估存在四个主要缺陷：1）训练和测试数据不统一；2）未考虑时间维度，无法检验模型随时间推移的性能衰减；3）缺少对抗攻击下的安全性
ADVERSARIAL: And-Inverter Graph-Assisted Hardware Trojan Detection At Scale
该论文针对现代系统级芯片（SoC）中硬件木马（HT）检测的可扩展性问题提出了一种新颖方法。由于SoC包含数亿至数百亿门电路，现有HT检测方法因规模庞大而不可行。作者将平铺的门级网表建模为以与-逆变图（AIG）表示的布尔网络，其中所有内部节点
TriShieldRAG: A Three-Ring Defense-in-Depth Framework Against Knowledge Corruption in Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部知识库，使大语言模型能够基于检索到的文档生成答案，从而减少幻觉并适应快速变化的信息。然而，RAG 系统面临知识投毒攻击：攻击者只需上传少量对抗性文档，就能操纵模型输出错误答案。PoisonedRAG 研究显
The Illusion of Secure LLM Code: Closing the Security Gap via Iterative Reprompting
本文评估了大型语言模型（LLM）在自动生成安全认证代码方面的能力。研究选取了五种主流AI编码助手，通过双模态评估框架（静态代码分析结合动态渗透测试）并参照NIST SP 800-63B指南，分析了四种提示策略（基础、安全、NIST引导、迭代
DualityCert: Verifier-Gated Language-Model Repair of Broken Duality Claims in Quantum Field Theory
该论文提出 DualityCert，一个专为四维 N=1 quiver 规范理论中 Seiberg 对偶性声明设计的符号验证器。验证器检查 't Hooft 异常匹配、超势 R-荷一致性、中心荷匹配以及一个有界的手征环代理。通过验证的声明获
ATLAS: Automated Approximation of Transformers for Efficient Homomorphic Inference in One Hour
全同态加密（FHE）为隐私推理提供了强加密保障，但在FHE下部署Transformer模型仍然代价高昂。关键瓶颈在于softmax、归一化和激活等非线性运算必须替换为与CKKS方案兼容的多项式近似，而近似消耗的乘法深度主导了推理成本。现有框
Rendering on Real Silicon: GPU Render-Timing as a Passive, AI-Resistant CAPTCHA Signal
该论文提出了一种新颖的验证码（CAPTCHA）方法，利用客户端GPU在受控WebGL渲染负载下的物理时序行为作为区分人类与自动化程序的信号。与传统的基于像素输出的WebGL指纹识别不同，该方法测量渲染时间动态以进行分类，而非识别，因此不会泄
Traceable LLM Reasoning for Fake-Order Fraud Detection
本文针对大型线上到线下（O2O）服务平台中虚假订单检测的挑战，提出了一种基于大语言模型（LLM）的可追溯推理强化学习框架DeepScrub。现有方法通常依赖专家设计特征、做出黑盒决策且可解释性有限。DeepScrub包含三项创新：首先，语义
What Can Be Enforced? A Theory of Certified Runtime Safety for Tool-Using Agents
该论文研究使用工具（tool-using）的智能体在运行时安全领域的可执行性（enforceability）理论。现有运行时防护栏（runtime guardrails）在不可逆的工具调用前进行干预，但它们的保证取决于可表示的策略状态、裁判
Certified in Theory, Broken in Practice: Assumption Gaps in Cryptographic Model Certification
本文研究了密码学模型认证（CMC）协议中的安全假设与实际部署之间的差距。隐私保护的机器学习审计协议允许审计员评估模型的准确性或公平性，而无需暴露模型内部或训练数据，因此特别适用于医疗、金融等敏感领域。然而，现有安全定义通常仅保证模型在固定审
Probing Speaker Identity Sensitivity in Audio Deepfake Detectors
本文研究了音频深度伪造检测器在跨数据集时性能大幅下降的问题，提出其中一个原因是检测器对说话人身份特征的过度依赖。标准训练语料中，说话人身份与真/假标签存在相关性，导致检测器部分依赖说话人相关线索而非合成伪影。作者提出了身份敏感性得分（ISS
Adversarial Prompts for Acceptance Collapse in Speculative Decoding
推测解码是一种无损加速方案，通过草稿模型与目标模型之间的动态token级对齐实现推理加速。然而，这种语义等价的保证隐藏着严重的操作漏洞：草稿-目标对齐可被系统性攻击。本文提出ADSD，据我们所知，这是首个通过推动草稿概率质量朝向目标模型不太
Physiological Signals as a Forensic Modality for Talking-Face Deepfake Detection
本文针对说话人脸（Talking-Face, TF）深度伪造检测问题，提出了一种基于生理信号（远程光电容积描记术, rPPG）的取证方法。TF深度伪造技术利用静态源图像和音频信号合成逼真的面部视频，而现有基于图像特征的检测器几乎完全失效。与
Agree on the Model, Verify the Inference: GKR Protocols for HND-Based Transformer Inference
本文提出了一种名为GKR-HND的注册模型协议，用于验证基于同态-非同态分解（HND）的Transformer推理的正确性。在当前的AI服务中，客户通常将模型推理外包给第三方服务器，但面临模型被替换或推理未完全执行的风险。传统的直接重放验证
Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration
Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration
Beyond Heavy Log Curation: Perplexity-Based APT Detection via Unsupervised, Context-Augmented Language Models
本论文提出了一种名为 CAPTAIN（Context-Augmented Perplexity-based Threat Activity log detectIoN）的 APT 检测方法。研究背景是高级持续性威胁（APT）检测的难点在于大
Leaky Language Models: Stealing Architecture and Inference Optimizations via Per-Token Timing
该论文提出了一种名为 LeakyLMs 的攻击方法，通过分析语言模型生成每个 token 的耗时（per-token timing），从远程 API 接口中窃取模型架构和推理优化部署细节，无需直接访问模型内部结构。攻击分为两部分：第一部分针
Taming the Security-Energy Paradox: A Green AI Approach to Optimized Android Malware Detection
随着Android恶意软件的日益复杂，深度模型被部署在移动设备上进行实时检测，但面临着安全性与能耗之间的权衡——高精度的检测模型往往导致设备电量快速耗尽。本论文针对这一安全-能量悖论，探索了多层感知机（MLP）模型在Android恶意软件检
HijackKV: New Threat in Position-Independent KV Cache Reuse
本文揭示了大型语言模型（LLM）中位置无关KV缓存重用机制引入的一种新安全威胁——KV缓存劫持（KV Cache Hijacking）。传统的基于前缀的KV缓存重用精确匹配token和位置，缓存命中率低。为提升效率，近期系统优化提出位置无关