Causal-Guided Detoxify Backdoor Attack of Open-Weight LoRA Models.
本文针对低秩适配（LoRA）模型在开源社区（如Hugging Face）中广泛使用所带来的安全挑战展开研究。LoRA作为一种高效的大语言模型微调方法，其适配器文件可被轻易分享和传播，但这也为恶意攻击者提供了植入后门的机会。现有后门攻击方法在
#LLM
共收录 2152 条相关情报。
← 返回所有主题Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference.
本文研究了大型语言模型（LLM）推理过程中键值缓存（KV-cache）带来的隐私风险。KV-cache是LLM中用于加速自回归解码的关键组件，它会存储中间注意力层的键和值张量。作者发现，KV-cache中可能残留用户输入的敏感信息，例如个人
There is No War in Ba Sing Se: A Global Analysis of Content Moderation in Large Language Models.
本研究对大型语言模型（LLM）中的内容审核机制进行了全球范围的系统性分析。论文首先指出现有LLM部署时通常内置了内容过滤器以阻止有害或不当内容，但这些过滤器的有效性和一致性在全球不同地区因语言、文化、法律和监管环境的差异而存在显著不确定性。
ThinkTrap: Denial-of-Service Attacks against Black-box LLM Services via Infinite Thinking.
大语言模型（LLM）已广泛应用于自然语言理解与生成、具身智能及科学发现等领域。随着计算需求增长，这些模型越来越多地以云服务形式部署，用户通过互联网访问。然而，这种部署模式引入了一种新的威胁：通过无限推理进行的拒绝服务（DoS）攻击。攻击者精
LLMBisect: Breaking Barriers in Bug Bisection with A Comparative Analysis Pipeline.
该论文提出LLMBisect，一种基于大语言模型（LLM）的自动化Bug二分定位比较分析流水线。传统的Bug二分定位依赖人工查看代码或手动执行测试，效率低下且容易出错。LLMBisect通过将Bug描述、代码差异和测试结果输入LLM，让模型
Benchmarking and Understanding Safety Risks in AI Character Platforms.
本文对AI角色平台（允许用户与AI人格进行对话的快速发展的应用领域）进行了首次大规模安全研究。研究评估了16个主流平台，使用涵盖16个安全类别的5000个问题的基准集。结果显示，AI角色平台的平均不安全响应率高达65.1%，远高于基线的17
Achieving Zen: Combining Mathematical and Programmatic Deep Learning Model Representations for Attribution and Reuse.
该论文提出了一种名为Zen的框架，旨在解决深度学习模型在反汇编和逆向工程中的表示问题，特别是针对模型归因（attribute）和重用（reuse）场景。当前，深度学习模型在二进制代码分析中的应用日益广泛，但模型本身通常以黑盒形式提供，缺乏可
Rethinking Fake Speech Detection: A Generalized Framework Leveraging Spectrogram Magnitude.
该论文重新审视了假语音检测问题，提出了一种利用频谱图幅度的通用检测框架。传统的假语音检测方法通常依赖于特定的声学特征或深度学习模型，但在面对新型伪造技术时泛化能力不足。本文的核心思路是通过分析语音频谱图的幅度信息，构建一个不依赖于特定伪造方
Beyond Raw Bytes: Towards Large Malware Language Models.
该论文提出了一种超越传统基于原始字节的恶意软件分析方法，旨在构建专门用于恶意软件分析的大型语言模型（LLM）。传统方法通常将恶意软件视为字节序列，但忽略了其结构化和语义信息。本文探索通过将恶意软件转换为中间表示（如指令序列、控制流图等），并
Misrouter: Exploiting Routing Mechanisms for Input-Only Attacks on Mixture-of-Experts LLMs
本文研究针对混合专家（MoE）架构大语言模型的输入仅攻击。MoE通过稀疏路由机制扩展模型规模，但路由过程可能成为新的攻击面。以往攻击需修改模型参数，仅适用于本地部署；而现实中的LLM服务通过远程API提供，攻击者仅能操控输入。作者提出Mis
Root-Cause-Driven Automated Vulnerability Repair
本文提出了一种基于根因驱动的自动化漏洞修复系统Kumushi。当前基于LLM的修复系统面临两个主要挑战：一是缺乏对bug来源的强信号，导致修复仅针对表面症状（如使测试通过）而未解决根本问题；二是根因定位本身困难，即使是熟悉代码库的开发者也常
Undetectable Backdoors in Model Parameters: Hiding Sparse Secrets in High Dimensions
该论文提出了一种名为 Sparse Backdoor 的供应链攻击，能够在预训练图像分类器（包括卷积网络和视觉Transformer）中植入一个理论上不可检测的后门。攻击方法是在每个全连接层的少量列上沿随机方向注入结构化稀疏扰动，从而将触发
Redefining AI Red Teaming in the Agentic Era: From Weeks to Hours
本文针对当前AI红队测试过程中存在的效率低下问题，提出了一种基于智能体的自动化红队框架。研究背景是：AI系统在医疗、金融、国防等关键领域广泛应用，但面临对抗性攻击威胁。现有红队方法依赖于手动操作和特定于库的工作流程，安全人员需花费数周时间手
Generating Proof-of-Vulnerability Tests to Help Enhance the Security of Complex Software
该论文针对现代软件开发中广泛使用第三方库（Lib）所带来的供应链安全风险问题，提出了一种名为PoVSmith的新方法，用于自动生成可执行的漏洞验证测试（PoV tests）。当前开发者通常需要具体的、可执行的证据来判断一个依赖漏洞是否对其应
MOSAIC-Bench: Measuring Compositional Vulnerability Induction in Coding Agents
本文提出 MOSAIC-Bench (Malicious Objectives Sequenced As Innocuous Compliance) 基准测试，用于评估编码代理在分解为常规工程工单时诱导组合漏洞的能力。现有安全对齐方法通常仅
KVerus: Scalable and Resilient Formal Verification Proof Generation for Rust Code
形式化验证是确保软件正确性和安全性的最高保证，但将其应用于大规模、不断演变的系统仍面临重大挑战。尽管大语言模型（LLM）在自动证明生成方面展现出潜力，但由于无法处理复杂的跨模块依赖关系或代码库及验证工具链的变化，它们在实际应用中常常失败。本
Tailored Prompts, Targeted Protection: Vulnerability-Specific LLM Analysis for Smart Contracts
本文提出了一种基于大语言模型（LLM）的智能合约漏洞检测框架。智能合约因其不可篡改特性，易遭受多种安全漏洞攻击，导致重大经济损失。现有检测方法通常依赖人工制定的专家规则，缺乏对不同漏洞类型的灵活适应性。为此，作者构建并公开了一个大规模数据集
The Infinite Mutation Engine? Measuring Polymorphism in LLM-Generated Offensive Code
该论文研究了大型语言模型（LLM）在生成恶意代码时的多态能力。传统上，恶意软件作者使用多态技术产生同一恶意软件家族的变种，以逃避基于签名的检测。随着生成式AI融入攻击工具链，攻击者可以利用LLM合成行为相同但结构多样的载荷，但此前缺乏对LL
MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents
本文研究了当LLM代理配备持久化外部记忆（如检索增强生成RAG）时面临的安全威胁，并首次形式化描述了记忆投毒攻击。作者将攻击建模为Stackelberg博弈，并在三个攻击类别（逐步放宽访问权限假设）的统一评估框架下进行验证。首先，作者纠正了
Exposing LLM Safety Gaps Through Mathematical Encoding:New Attacks and Systematic Analysis
该论文揭示了大型语言模型（LLM）安全机制在数学编码攻击下的严重漏洞。当前LLM的防御主要依赖语义模式匹配，作者提出了一系列将有害提示编码为连贯数学问题的方法，包括集合论、形式逻辑和量子力学等数学形式体系。实验在8个目标模型和两个基准测试上