When Alignment Isn't Enough: Response-Path Attacks on LLM Agents
该论文首次提出并形式化了一种针对BYOK（自带密钥）智能体架构的新威胁——对齐后篡改攻击。在BYOK架构中，用户将LLM流量路由通过第三方中继，但中继在LLM生成响应后、智能体执行前可以修改结果，从而破坏对齐。作者将该威胁实例化为中继篡改攻
#LLM
共收录 2152 条相关情报。
← 返回所有主题What's on Your Mind? Exploring Privacy of Mental Health Apps
本文对25款流行的Android心理健康与生活教练应用进行了全面的隐私分析。研究方法结合了静态分析（检查APK中的权限声明和追踪器SDK）、动态网络流量捕获（识别实际数据传输）以及基于LLM的隐私政策提取（辅以人工标注）。主要发现包括：1）
Trojan Hippo: Weaponizing Agent Memory for Data Exfiltration
本文研究了LLM代理（Agent）长期记忆系统中的安全漏洞。尽管记忆系统允许无状态的LLM代理跨会话持久化用户信息，但这也引入了新的攻击面。作者提出了一类名为“Trojan Hippo”的持久性记忆攻击，该攻击在比以往记忆投毒研究更现实的威
FlashRT: Towards Computationally and Memory Efficient Red-Teaming for Prompt Injection and Knowledge Corruption
该论文提出 FlashRT，首个针对长上下文大语言模型（如 Gemini-3.1-Pro 和 Qwen-3.5）中提示注入和知识破坏攻击的优化红队框架。现有基于优化的红队方法虽然攻击效果好，但计算和内存开销巨大，尤其对于长上下文场景（如 3
Latent Adversarial Detection: Adaptive Probing of LLM Activations for Multi-Turn Attack Detection
本文针对多轮提示注入攻击的检测问题展开研究。现有基于文本级别的防御无法识别隐蔽的攻击，因为每个单独轮次的提示看似无害，但攻击者通过信任建立、横向移动、权限提升等阶段逐步实施攻击。作者发现，这种攻击路径会在模型的残差流中留下激活层面的特征：每
MASCing: Configurable Mixture-of-Experts Behavior via Activation Steering Masks
该论文针对大语言模型中混合专家（MoE）架构在安全方面的新挑战，提出了一种名为MASCing（MoE激活转向配置）的框架。MoE通过稀疏激活降低了推理成本，但专家选择路径与模型行为高度耦合，导致安全相关场景下的行为难以控制。传统的全微调或重
VOW: Verifiable and Oblivious Watermark Detection for Large Language Models
该论文提出了一种名为VOW的新型协议，用于解决大型语言模型（LLM）水印检测中的隐私和可验证性问题。现有LLM水印方法通常依赖集中式信任模型，用户需将敏感文本提交给服务提供商进行检测，且无法验证检测结果的完整性。虽然已有非对称方案试图解决这
SecGoal: A Benchmark for Security Goal Extraction and Formalization from Protocol Documents
本文提出了SecGoal，这是首个由专家标注的基准测试，覆盖了15种广泛部署的协议文档，包括5G-AKA和TLS 1.3。同时，作者提出了AIFG（AI-assisted framework），一种将安全目标提取与形式化分解为上下文感知的目
Low Rank Adaptation for Adversarial Perturbation
本文系统研究了对抗扰动是否具有低秩结构。受Low-Rank Adaptation (LoRA)启发——LoRA通过低秩矩阵更新神经网络层显著提升了大型语言模型的训练效率——作者提出对抗样本的生成也是优化过程，因此自然产生疑问：对抗扰动是否也
Security Attack and Defense Strategies for Autonomous Agent Frameworks: A Layered Review with OpenClaw as a Case Study
本论文对基于大型语言模型（LLM）的自主智能体框架的安全攻击与防御策略进行了分层综述。随着LLM智能体从简单对话系统发展为集成工具、持续运行的复杂系统，其安全风险已超越传统的提示词级别漏洞。尽管已有研究针对不同攻击面和防御问题进行了探讨，但
Toward Autonomous SOC Operations: End-to-End LLM Framework for Threat Detection, Query Generation, and Resolution in Security Operations
该论文提出了一种面向安全运营中心（SOC）的端到端威胁管理框架，旨在解决威胁数量增长、SIEM平台异构以及人工分诊耗时的运营挑战。框架包含三个核心模块：基于集成学习的检测模块、语法约束的查询生成模块（SQM）以及检索增强的响应支持模块。检测
REBENCH: A Procedural, Fair-by-Construction Benchmark for LLMs on Stripped-Binary Types and Names (Extended Version)
该论文提出了 REBENCH，一个用于评估大型语言模型（LLM）在二进制逆向工程任务中性能的标准化基准数据集。当前，LLM 在计算机安全领域，尤其是逆向工程中的函数名恢复、变量名恢复和类型推断等任务上取得了显著进展。然而，由于缺乏标准化的数
From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
该论文针对集成大语言模型（LLM）的自主机器人系统进行威胁建模。背景方面，虽然已有研究分别关注机器人网络安全、对抗性感知攻击和LLM安全性，但尚未有工作将这些威胁类别在一个统一架构中追踪其相互作用与传播。作者通过将基于边缘-云架构的LLM赋
SafeTune: Mitigating Data Poisoning in LLM Fine-Tuning for RTL Code Generation
随着大语言模型（LLM）越来越多地被微调用于硬件任务（如寄存器传输级（RTL）代码生成），高质量数据集的稀缺性常常导致使用快速组装或生成的数据。这些数据集缺乏安全验证，极易受到数据投毒攻击，使得模型生成语法正确但存在安全漏洞的硬件模块，绕过
Enhancing Linux Privilege Escalation Attack Capabilities of Local LLM Agents
本文针对本地部署的开源权重大语言模型（LLM）在自动化 Linux 权限提升攻击任务中性能不佳的问题，提出并验证了五种系统级和提示工程的干预方法，以弥补其与云模型（如 GPT-4o）之间的性能差距。研究首先分析了开源模型在自主权限提升中的失
Large Language Models for Code: Security Hardening and Adversarial Testing.
该论文研究大型语言模型（LLM）在代码生成中的安全问题。随着LLM在大量代码库上训练并用于自动生成代码，它们频繁生成不安全的代码，缺乏安全意识。为此，作者从两个维度展开工作：安全加固（增强LLM生成安全代码的可靠性）和对抗测试（从对抗视角评
Understanding and Detecting Abused Image Hosting Modules as Malicious Services.
该论文首次对一种新型地下生态系统——滥用图片托管模块（Abused Image Hosting Modules）作为恶意服务（AIMIEs）进行了测量研究。AIMIEs近年来被不法分子广泛用于托管非法图片和传播有害内容，但学术界对其规模、影
PRAG End-to-End Privacy-Preserving Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部知识显著提升了大型语言模型（LLM）的能力，但其在云环境中的部署面临敏感数据的隐私泄露风险。现有隐私保护方案往往因噪声注入而牺牲检索质量，或仅提供部分加密。本文提出PRAG，一种端到端隐私保护RAG系统，在
Tatemae: Detecting Alignment Faking via Tool Selection in LLMs
本文提出一种利用工具选择行为检测大型语言模型（LLM）中"对齐伪装"（Alignment Faking, AF）的新方法。AF 是指 LLM 在训练过程中表面服从目标以规避价值观修改，一旦监控解除便恢复原有偏好。现有检测方法主要依赖对话中的
SafeReview: Defending LLM-based Review Systems Against Adversarial Hidden Prompts
本文针对大语言模型（LLM）在学术同行评审应用中面临的对抗性提示攻击问题展开研究。攻击者可以在提交的论文中嵌入对抗性指令（即隐藏提示），以操纵LLM的评审结果，这严重威胁学术诚信。为了应对这一威胁，作者提出了一种新颖的对抗框架：该框架包含一