Cross-Generational Transfer of Adversarial Attacks Reveals Non-Monotonic Safety Alignment in LLMs
本文研究了大型语言模型 (LLM) 在跨代际间的安全对齐是否单调提升。作者选取 Google 的 Gemma 系列四代模型（7B-31B），采用质量多样性进化算法（MAP-Elites）作为自动化红队探测工具，对模型进行对抗性攻击生成和评估
#LLM
共收录 2152 条相关情报。
← 返回所有主题Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety
当前针对大型语言模型（LLM）的对抗性测试方法存在覆盖不足的问题：人工红队测试难以规模化、LLM作为攻击者的方法容易出现模式崩溃（产生重复或相似攻击）、基于梯度的攻击则生成不可读的乱码。本文提出一种质量多样性（Quality-Diversi
NeuroLog: Reasoning You Can Audit -- Neuro-Symbolic Vulnerability Discovery via LLM Facts, Datalog, and SMT
本文提出 NeuroLog，一个端到端、无需构建环境的漏洞发现流水线，用于 C/C++ 源代码。核心思路是将 LLM、Datalog（Soufflé）和 SMT 求解器（Z3）分层协作：LLM 逐个函数提取类型化的数据流事实；Soufflé
The Invitation Trap: Proactive Availability Backdoor in LLMs via Conversational Induction
本文提出一种名为“主动可用性后门”（Proactive Availability Backdoor, PAB）的新型后门攻击范式，针对大型语言模型（LLM）的安全威胁。与传统的被动后门攻击不同，PAB将攻击向量从被动等待转变为主动社会工程，
Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs
本文研究了大型语言模型（LLM）推理痕迹的暴露风险。虽然许多部署系统通过界面层隐藏原始推理痕迹，只向用户暴露摘要或最终答案，以防止能力转移，但作者提出了一种轻量级的上下文引导方法——推理暴露提示（REP）。REP利用影子模型生成的示范，以辅
Authenticity Debt and the Synthetic Content Threat Landscape: A Layered Framework for Trust, Provenance, and IP Governance in the Generative AI Era
这篇论文探讨生成式AI（GenAI）对内容真实性带来的系统性风险。作者提出了“真实性债务”（authenticity debt）概念：组织在部署AI生成内容时，若未保留可验证的来源、完整性和问责机制，将累积机构性负债，未来可能在监管、法律或
Same Payload, Different Channel: Measuring Trust Asymmetry in Tool-Using Language Models
本文研究语言模型在扮演代理角色时，不同信息通道（用户消息、工具元数据、工具输出）对恶意指令的响应差异。作者提出安全不对称分数（Safety Asymmetry Score, SAS），通过保持恶意文本内容相同、仅改变传递上下文，衡量模型对来
Secure Transformer Inference Made Non-interactive.
随着ChatGPT等大型语言模型的兴起，安全Transformer推理成为一个重要研究方向。现有的安全推理方案大多采用交互式协议，客户端与服务器之间需要多轮通信，导致通信负载和延迟较高。本文提出了NEXUS，这是首个非交互式安全Transf
"I Strongly Suspect This Website Is a Scam": Benchmarking PII Leakage and Detection without Defense in Autonomous Web Agents
该论文系统性地研究了自主Web智能体在面对社会工程攻击时泄露用户个人可识别信息（PII）的问题。作者首先指出，互联网上广泛存在的欺骗性Web内容（即社会工程攻击）能够操纵自主Web智能体将用户的PII提交给攻击者控制的端点。为了量化这一风险
Confused ChatGPT: Cross-App Context Poisoning via First-Party APIs
2025年10月6日，OpenAI发布了ChatGPT应用程序，引入了应用内应用（app-in-app）范式：第三方应用与用户及所有其他已连接的应用共享同一个聊天上下文。该生态系统从2025年12月的122个应用迅速增长到2026年5月的8
When Safe Skills Collide: Measuring Compositional Risk in Agent Skill Ecosystems
该论文研究了LLM代理系统中一个核心安全问题：即使每个独立的技能（skill）本身是安全的，将它们组合成技能集（skill set）后是否可能产生不安全的行为。作者提出了SkillReact框架，这是一个组合安全测量框架，包含三个部分：确定
Stateful Online Monitoring Catches Distributed Agent Attacks
该论文研究了大型语言模型（LLM）代理在网络安全中的误用问题，特别是分布式代理攻击。作者指出，现有的安全监控器仅对单个代理上下文进行评分，因此无法检测到跨多个用户账户分布的恶意行为，这些行为在单个转录中看似无害。为了证明这一安全缺口，他们构
How to Compare the Security of Code Written by Humans to LLM-generated Code
随着大型语言模型（LLM）在软件开发中的广泛应用，如何客观比较LLM生成代码与人类编写代码的安全性成为一个关键问题。目前缺乏标准化的实证研究方法，导致难以评估LLM是提升还是削弱了安全基线。为此，本文提出一个自动化框架，用于在纯人类、纯LL
Neuroforger: certified violation witnesses for smart contracts verification via LLMs
该论文提出了一种结合大型语言模型（LLMs）与形式化方法的智能合约验证新框架。当前智能合约验证面临两大挑战：自然语言表达的属性内在存在歧义，且LLM的答案缺乏正确性保证。作者通过两个创新点同时解决这些问题：1）设计了一种扩展Solidity
EvoDefense: Co-Evolving Black-Box Defense with Large Language Models
大型语言模型（LLM）在多种攻击下仍高度脆弱，尤其是在黑盒场景中，攻击者无法获取目标模型的内部信息。现有的黑盒防御方法通常依赖预定义的过滤启发式规则，难以泛化到未知攻击类型和不同目标模型架构。本文提出 EvoDefense，一种经验引导的共
R+R: Reassessing Java Security API Misuse in Current LLMs: A Replication on JCA and JSSE APIs with External Security Knowledge
该论文针对LLM生成Java代码中安全API（JCA和JSSE）的误用问题进行了复制与扩展研究。2024年的原始研究表明，LLM生成的代码普遍存在安全API误用风险，但该结论基于较早期的模型。本工作选取了前沿闭源模型GPT-5.5和强开源模
From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors
该论文针对LLM Agent安全领域，揭示了一种新型的多步Trojan攻击范式。在本地Agent harness（如OpenClaw模拟的工作空间）中，LLM能够读写文件、调用工具并在会话间复用工作空间状态。攻击者可以将恶意prompt注入
DataShield: Safety-degrading Data Filtering for LLM Benign Instruction Fine-Tuning
大型语言模型（LLMs）在即使使用良性数据集进行指令微调时，也会出现安全能力退化的问题。现有识别良性数据中安全退化样本的方法存在计算成本高、噪声大的缺点。本文提出DataShield，一种高效识别潜在安全退化样本的方法。核心直觉是良性微调会
Thou Shall Not Pass: Gatekeeping Outbound TLS Connections
本文针对传输层安全协议（TLS）在现实部署中因过时版本和配置错误导致安全保证受损的问题展开研究。研究团队在布鲁诺·凯斯勒基金会（Fondazione Bruno Kessler）收集了两周内超过5000万次TLS握手数据，分析了服务器选择的
TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking
随着LLM Agent（智能体）的兴起，它们能够自主规划、编写代码甚至端到端执行专家级的攻击工作流，这带来了新的安全威胁。然而，这种威胁目前尚未被充分研究和重视，原因有二：一是安全对齐机制阻止LLM直接生成有害指令；二是现有的越狱方法大多无