Watermarks Without Verification: AI Text Watermarking After the EU AI Act
本文围绕欧盟《人工智能法案》第 50 条生效后的 AI 文本水印治理问题展开。按照论文所述，2026 年 8 月 2 日起，该条款要求生成式 AI 提供方对其系统产出的内容进行标记，并确保这些内容可被识别为 AI 生成。在此背景下，Anth
#LLM
共收录 2152 条相关情报。
← 返回所有主题Arbitrary Cipher Attacks Against Large Language Models Do Not Require Fine-Tuning
该论文研究的是大语言模型越狱攻击中的一个特殊分支——任意密码（arbitrary cipher）或隐蔽通信攻击。此前的相关工作表明，攻击者可以针对商业模型的微调 API 下手：用大量经过某种自定义加密方案编码的有害问题与回答构造语料，对目标
DuplexJail: Safety Alignment Breaks Under Spoken Interruption in Full-Duplex Models
该论文关注全双工语音模型（full-duplex speech models）带来的一个被忽视的攻击面：这类模型在生成回复的同时仍持续接收用户语音输入，因此攻击者可以在模型「说话」期间通过用户音频通道插入额外的语音内容，从而与当前对话轮次解
An Experimental Evaluation of Multimodal Prompt Injection Attacks on Agentic AI Frameworks
该论文研究面向智能体（Agentic）AI 框架的多模态提示注入攻击，并给出一套可复现的量化评测基准。背景是：当前智能体框架让大语言模型不仅能推理，还能制定计划、保存记忆并调用工具，进而触达真实文件系统、邮件与服务；同时多数智能体具备读图能
LLMSec-AV: A Vulnerability Taxonomy and LLM-Driven Software Weakness Discovery Framework for Autonomous Vehicles
该研究关注自动驾驶（AV）软件的安全弱点发现难题：现代自动驾驶系统依赖数百万行安全关键代码，而通用静态分析工具并不理解哪些代码会实际影响车辆运动控制，因此可能既漏报关键缺陷、又产生大量无意义告警。作者提出的核心问题是：如果把明确的自动驾驶安
PrivEscalate: Measuring and Augmenting the Threat of LLM-Automated Linux Privilege Escalation
该论文关注一个被低估的攻防测量问题：随着 LLM 智能体被越来越多地用于自动化攻击链的后渗透环节，它们在复杂本地提权任务中的实际能力究竟如何，此前缺乏可执行验证下的大规模量化证据。作者指出，已有针对 Linux 提权任务的评测普遍存在样本量
Measuring the Security of the Evolving Software Supply Chain: a Research Agenda
软件供应链安全已成为现代软件工程中的核心关注点，因为现代软件对第三方依赖有着广泛依赖，且攻击面持续扩大。然而，现有的基于量化测量的分析方法和漏洞管理手段往往碎片化，并局限于特定生态系统（如npm、PyPI等），难以在跨环境之间提供可比较的风
Evidence-Grounded Retrieval for Investigation Hunt Lead Generation from CTI Reports
该论文针对网络威胁猎杀中依赖人工将威胁情报（CTI）报告转化为可执行调查线索（hunt leads）的低效问题，提出了一种名为 AHLERT 的自动化系统。现有方法大多停留在实体提取层面，忽略防御者自身的运行环境，且孤立分析每份报告。AHL
Benchmark Scores Are Pipeline-Dependent: A Reliability Audit of Cybersecurity LLM Benchmarks
本文对网络安全领域的大语言模型（LLM）基准测试的可靠性进行了系统性审计，指出基准分数并非固定不变，而是高度依赖于评估管道的具体配置。作者将八个网络安全基准测试视为测量管道，并选取了十个模型（包括商业专有模型、开放权重模型和网络安全专用模型
ZK-Trace: Certified Collusion Tracing with Zero-Knowledge Credentials for Federated GNSS Interference Monitoring
本文提出 ZK-Trace，一种用于联邦式全球导航卫星系统（GNSS）干扰监控场景下的认证共谋追踪方案。在该场景中，一个专有的分类器模型被分发到多个“部分可信”的监测站，任何站点都可能泄露其模型副本，导致知识产权或敏感能力外泄。ZK-Tra
MemSentry: A Framework for Detecting Persistent Memory Poisoning in Agentic AI
本文针对Agentic AI系统引入的持久内存攻击面，提出了一种名为MemSentry的防御框架。Agentic AI系统通过持久记忆保存用户交互和系统状态，但攻击者可以向长期记忆中注入对抗性内容，即内存投毒（Memory Poisonin
An Evidence Model for Agentic Processes: Evidence Claims, Trust Assumptions, and Policy Assessment
本文针对代理式AI系统的可审计性与证据可信度问题展开研究。在智能体流程中，系统频繁交换消息、调用工具、请求审批、进行结构化决策会话并修改共享工件；日志与锚点虽能提供篡改证据，但其证据含义往往是隐式的——哈希不能确立语义真实性，签名不能证明授
HoneyRoute: Honeypot-Model Routing for Adversarial LLM Serving
本文提出了一种名为 HoneyRoute 的推理服务层，用于在面向对抗性的大语言模型（LLM）服务中检测恶意请求并将其路由到专用蜜罐模型，从而保护生产模型，同时持续收集攻击者交互并转化为情报。现有防御通常将陷阱嵌入模型内存或在协议层重建欺骗
Revoked but Still Authoritative: An Empirical Study of Revocation Enforcement in Agent-Memory Systems
长时运行的基于语言模型的智能体依赖于持久记忆来跨轮次保持上下文。许多智能体内存系统采用软撤销机制处理矛盾信息：当某个事实被新事实取代时，旧事实被标记为“已撤销”但仍保留在存储中，而非物理删除。然而，这种撤销标记在检索阶段是否真正被强制执行，
ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing
大型语言模型（LLM）的自动化红队攻击与蓝队防御技术正在快速发展，但现有的攻击者和防御者通常被孤立地构建和测试，导致评测分数难以反映真实对抗能力。为解决这一问题，本文提出了 ACEA（Adversarial Co-Evolution Are
LLM-Based Penetration Testing in the Presence of Honeypots
该论文研究了大语言模型（LLM）智能体在自动化渗透测试中面对蜜罐（honeypots）时的预算分配问题。传统蜜罐依赖真实性与隐蔽性来诱捕人类或脚本攻击者，从而暴露其战术、技术与程序（TTPs）；然而，LLM驱动的攻击者能够对异构工件进行推理
ResidualAuth: What Authorization State Must Language Agents Preserve under Revocable Delegation?
工具调用型语言代理在与外部服务交互时，常需要动态委派和撤销权限。以往的安全机制往往只关注当前权限集合或可达性关系，但本文揭示了仅依赖这些快照信息可能不足。作者通过构造示例证明：两个历史可能具有完全相同的当前权限和全对可达性，但在同一直接边撤
VEX-Bench: Benchmarking LLM Agents for Assessing Exploitability of Software Supply Chain Vulnerabilities
软件供应链已成为日益暴露的攻击面，原因是其依赖关系复杂而脆弱。现有的防御工具（如 GitHub Dependabot）常常产生大量误报，因为它们的粗粒度匹配无法确定易受攻击的依赖项是否真正可利用。安全分析师通常需要花费大量时间逐案评估漏洞可
"Shut Up and Let Me Enjoy My Otome": Understanding and Measuring the Toxicity in Otome Game Communities
该论文针对乙女游戏（女性向恋爱模拟游戏）社区中普遍存在但此前缺乏系统性研究的在线毒性问题，首次完成了跨社交平台的大规模毒性测量。作者提出名为OtomeSCAN的框架，用于从微博和Reddit收集、评估和分析共620,045条与乙女游戏相关的
Nothing Breaks: No Single Peer Can Soundly Gate Post-Quantum Delivery
该论文研究后量子（post-quantum）安全在端到端交付中的根本性缺陷：后量子保护是服务器与客户端之间的一种关系属性，而非单一文件或配置可声明的静态属性。作者指出，没有任何单一对端（peer）能够可靠地验证这种关系是否成立。首先，现有的