Compared to What? A Human-Anchored Security Benchmark for LLM-Generated Infrastructure-as-Code
本文提出 GenIaC-SecBench，一个用于评估大语言模型生成基础设施即代码（IaC）安全性的基准测试。研究动机是：LLM 越来越多地被用于编写 IaC，而其中单个不安全默认值可能直接部署到生产环境；已有评估多报告原始漏洞数量，但缺乏
#LLM
共收录 2152 条相关情报。
← 返回所有主题Moirae: A Multimodal Agent Collaborative Framework for Dynamic Android Malware Detection
本文提出了一种名为 Moirae 的多模态智能体协作框架，用于动态 Android 恶意软件检测。针对现有机器学习检测器容易受到概念漂移影响的问题（因为依赖随时间变化的实现特定特征），以及当前基于大语言模型（LLM）的检测器通常仅依赖代码或
CAITLYN: Can LLM Agents Autonomously Synthesize Defenses against Emerging Injection Attacks?
本文针对大型语言模型（LLM）代理面临的提示注入攻击问题展开研究。提示注入攻击通过在代理检索的外部文本源中嵌入恶意指令或内容，诱导底层LLM执行超出其良性范围的危险操作。现有防御方法虽然能对抗已知注入攻击，但在LLM代理环境中部署仍存在困难
CHISEL-ing Back Source Code with AI-enabled Iterative Recovery
本论文提出 CHISEL，一个无需测试套件的迭代式源码恢复框架，旨在改进二进制反编译的质量。传统反编译器（如 Ghidra）生成的伪 C 代码难以阅读且通常无法直接编译；而近年来基于大语言模型（LLM）辅助的反编译方法虽然能生成可读性较好的
DisCTI: Who Needs to Know Timely? Automated Sector-Aware Cyber Threat Intelligence Dissemination
该论文提出一个名为 DisCTI 的自动化网络威胁情报（CTI）分发系统，旨在解决当前 CTI 分发中缺乏行业感知（sector-aware）和及时性的问题。研究背景是：尽管 MISP 等平台提供了行业标签功能（如能源、金融、政府），但实际
Not to Break, but to Attest: Adversarial Probes for Privacy-Preserving LLM Verification
该论文针对大语言模型（LLM）在部署后被篡改而常规输出基本不变的问题，提出一种基于 zk-SNARK 的隐私保护审计框架。该框架通过构造“对抗性探针”（adversarial probes）来放大已批准模型与修改后部署之间的 logit 漂
A User-Centric Context-Aware Permission Governance Framework for Privacy Control in Default Mobile Applications
该论文针对移动操作系统中默认（预装）应用权限控制机制存在的安全与隐私缺陷展开研究。尽管现代移动系统提供了运行时权限控制，但默认应用深度集成于系统、常以较高权限运行，且用户难以审查其行为。现有权限模型通常基于应用会话授予持久或临时访问，不区分
FISGuard: Defending Against Membership Inference via Fixed Input Subspaces
本文针对联邦学习（Federated Learning）场景下大语言模型（LLM）参数高效微调（PEFT）中的隐私泄露问题展开研究。在联邦学习中，客户端通常只共享梯度而非原始数据，但已有研究表明共享梯度仍可能泄露训练样本的成员关系（Memb
ContextLeak: Exfiltrating LLM Agent Context via Malicious Tools
该论文研究了一种针对 LLM 代理的新型恶意工具攻击：ContextLeak。LLM 代理（如基于工具调用的 AI Agent）在执行任务时，其运行时上下文（包括用户提示、执行轨迹、工具列表）可能包含高度敏感的信息。攻击者可以利用恶意工具窃
Memorization Is Not Extraction: Tight Differential-Privacy Bounds and Audit Blind Spots
本文研究大语言模型（LLM）中记忆与提取现象的度量问题。长期以来，模型记忆的定义繁多且关系不明，差分隐私（DP）常被当作同时控制所有记忆形式的统一代理。作者针对实际应用中最重要的两类定义——反事实记忆（counterfactual memo
Semantic Watermarking with Order-Robust Detection over Sub-sentence Units
本文研究大语言模型（LLM）生成文本的语义水印技术及其鲁棒性。现有语义水印将标记绑定到句子语义而非具体词元选择，理论上能抵抗改写等保留内容的编辑。但攻击者提供给检测器的文本可能经过改写、重排序或重新分段，这些操作都会导致嵌入位移——检测时使
FlyBlind: Cross-Slice Timeliness Attacks on UAV Situational Awareness over 5G
本文提出并实验验证了一种针对基于5G独立组网（SA）的无人机超视距（BVLOS）运行场景的新型时间性攻击方法——FlyBlind。在典型BVLOS无人机系统中，指挥控制（C2）数据和视频反馈共享同一用户面，运营商通常依赖延迟和可用性等链路质
Do User-Authored Permission Policies Improve Protection Against AI Agent Overreach?
AI agent 正逐渐成为数字产品的主要交互界面，可能涉及电子邮件、文件、支付和个人数据等敏感操作。对于没有专业软件背景的普通用户而言，需要一种可理解且可复用的方式来控制跨服务的操作。本文研究一种机制：由语言模型将用户操作映射到自然语言后
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
本文提出 RedEvoAgent，一种面向 LLM 智能体执行环境的自动红队测试方法。研究背景是：基于 LLM 的智能体越来越多地部署在产品级执行框架中，针对这些智能体的越狱攻击不仅会造成不安全文本生成，还可能触发有害的工具调用和持久性状态
When Context Gets Root: Privilege Escalation in LLM Harnesses
本文提出了一种针对大语言模型（LLM）智能体框架的新型攻击概念：指令权限提升（Instruction Privilege Escalation）。研究背景是，当前许多 LLM 应用采用“指令层级”（instruction hierarchy
Low-ASR Backdoors: Exploiting Attack Success Rate Reduction and Attacker-Defender Asymmetry
该论文研究深度学习中后门攻击与防御的一个根本性假设缺陷。传统上，攻击者和防御者都默认成功的后门必须具有高攻击成功率（ASR），现有防御机制也大多基于这一前提进行设计和评估。作者指出，ASR并非后门的内在属性，而是可由攻击者人为控制的变量——
X-WAD: eXplainable Web Anomaly Detection
本文提出 X-WAD（eXplainable Web Anomaly Detection），一个面向 HTTP 请求异常检测的可解释框架。研究背景是：随着 API 驱动架构普及，Web 服务承载大量敏感数据，自动化防御机制（尤其是基于正常流
Safety Does Not Compose: Non-Decaying Loop State for Autonomous LLM Agents
本论文研究大型语言模型（LLM）智能体在自主循环部署中的安全性问题。当前，LLM智能体常被设计为从单个人类目标出发，反复执行任务发现、规划、工具调用、结果验证，并在多次无人值守迭代中持续保存状态。然而，广泛使用的智能体安全防护机制是基于单条
SecureDrive-FL: Joint Differential Privacy and Gradient-Aware Selective Homomorphic Encryption for Federated Driver Monitoring
该论文针对联邦学习（FL）中梯度更新面临的两类安全威胁：传输过程中的中间人（MitM）窃听，以及恶意客户端发起的模型投毒攻击。传统方案要么对所有参数统一加密（如静态分层或全参数CKKS），计算开销大且不区分敏感度；要么仅依赖差分隐私（DP）
LAAF: A Layered Accountability Architecture Framework for LLM Applications
该论文针对大型语言模型（LLM）在医疗、司法、金融和公共服务等高风险领域应用中出现的责任归属问题，提出了一种分层责任架构框架（LAAF）。研究背景是：LLM 在这些场景中即使输出缺乏依据或内容错误，也常被当作权威信息，一旦造成损害，难以明确