Agent Memory Is a Surface for Endogenous Authorization Laundering
这篇论文研究长效 LLM 代理（Long-running LLM agents）中持久内存（persistent memory）的授权状态管理问题。持久内存用于跨交互保存状态，包括权限、限制和撤销记录。作者发现，当内存错误表达不断演变的授权
2026-09-05 归档
今日共收录 1726 条安全情报，包含 665 个 CVE，657 篇安全通告，以及 120 篇研究论文。
← 返回归档列表When Safety Routing Breaks: Understanding Alignment Fragility under Benign Fine-Tuning
这篇论文研究良性微调（benign fine-tuning）如何严重削弱大型语言模型（LLM）的安全对齐（safety alignment），并探索拒绝行为（refusal behavior）为何如此脆弱。以往研究常将安全失效归因于梯度冲突
SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
本文针对基于大语言模型（LLM）的智能体在安全对齐方面的不足，提出了一种名为 SafeEvolve 的经验驱动自进化框架。研究背景是：LLM 智能体的行为安全既取决于基础模型本身的内部倾向，也取决于其与外部环境交互时采用的“harness”
AI-Assisted Design of a Post-Quantum Cryptographic Accelerator: A Deployed-Silicon Case Study
本论文围绕后量子密码硬件加速器在AI辅助设计中的验证盲区展开。作者指出，后量子迁移需要按时间表推进，但硅片一旦带有缺陷无法远程修补。针对ML-DSA签名算法，标准验收门（如已知答案测试KAT）无法检测整类缺陷，因为签名过程会反复重采样直到候
The Shape of Ownership: Verifying LLM Provenance through Semantic Structures
随着大语言模型（LLM）被广泛再分发、适配和通过不透明 API 提供服务，仅通过检查模型内部结构或部署记录已难以可靠地确认模型所有权。为此，研究者提出了一种基于语义结构的黑盒归属验证方法 PROSE。现有黑盒指纹大多依赖固定的查询-密钥关联
Transfer Safety Awareness for Cross-Modal Safety Drift in Multimodal Large Language Models
本研究聚焦于多模态大语言模型(MLLM)中一种新的安全风险——跨模态安全漂移。视觉模态虽然增强了模型的能力，但也为攻击者提供了新的利用路径：一段在纯文本场景下看似无害的查询，一旦配上特定的视觉图像，就可能表达出被模型间接解读的恶意意图，而模
Towards Behavior Tree-Guided Vulnerability Detection with Lightweight LLMs
本文研究如何利用轻量级本地大语言模型（LLM）进行软件漏洞检测，重点关注源代码输入表示对检测效果的影响。当前多数提示方法直接使用原始源代码，也有部分工作采用抽象语法树（AST）等结构化表示，但AST的冗长性显著增加了输入token数量，可能
Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference
本论文针对大型语言模型（LLM）的文本水印技术提出了一种新型无状态伯努利水印（Stateless Bernoulli Watermarking, SBW）。现有主流水印方法如 KGW 依赖词汇表置换，SynthID 使用多层锦标赛结构，它们
AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks
大型语言模型（LLM）容易受到越狱攻击，这类攻击通过精心构造的提示文本绕过模型的安全对齐机制，可能导致模型生成违规或有害内容。现有的许多防御体系需要访问模型权重或内部激活，难以部署到完全黑盒的 API 服务中。针对这一空白，论文提出 Alc
ACLE-MCP: Attested Capability Leases for Execution-Time Trust in Remote LLM Tool Use
该论文聚焦远程模型上下文协议（MCP）服务中大型语言模型（LLM）代理调用外部工具时的安全信任问题。传统OAuth授权只能证明调用方有权限，但无法确保后续工具调用确实由依赖方意图信任的提供方工作负载执行。作者称之为“授权后执行信任差距”：即
Automated Vulnerability Injection in Smart Contracts Using Large Language Models
该论文提出一种利用大型语言模型（LLM）自动向 Solidity 智能合约中注入漏洞的方法，旨在解决智能合约漏洞检测工具评估时缺乏带真实标签数据集的问题。人工构造此类数据集成本高且规模有限，论文通过 LLM 在真实合约基础上生成含有特定漏洞
A Finger on the Scale: Covert Policy Steering through Agentic Skills
本文研究了大语言模型（LLM）智能体中可复用技能（Reusable Agent Skills）所引入的新型供应链安全风险。可复用技能（如工具使用指南、任务流程、输出约束）本质上是外部化的行为策略，第三方提供的技能可能保留声明任务和合法输出接
SpiderSapien: Client-Centric Web Crawler and Security Scanner
本文提出 SpiderSapien，一个面向现代 Web 应用的客户端中心型爬虫与安全扫描器。现有黑盒扫描器在应对现代 Web 应用的高度动态性和客户端交互性方面存在不足，难以深入探索应用状态。SpiderSapien 的核心思路是将“沉浸
Can Risk-Based Alerting Mitigate Cybersecurity Alert Fatigue?
本文针对安全运营中心（SOC）面临的告警疲劳问题，首次系统性地评估了基于风险的告警（Risk-Based Alerting, RBA）方法。传统上，SOC 需要处理大量误报告警，而 RBA 被认为可以通过风险评分减少误报，但其有效性此前主要
Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization
本文提出生成式引擎优化（GEO）技术在信息对抗中的双刃剑效应。GEO 本用于内容生产者提升其网页在生成式搜索引擎中的可见性，但攻击者可利用同一套技术发布外观正常的 GEO 优化文档，诱导受害大语言模型（LLM）在检索时将这些文档合成进回答中
When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization
本论文研究生成式搜索引擎面临的恶意生成引擎优化（GEO）威胁。GEO 攻击通过改写网页内容以迎合搜索引擎的引用偏好，使目标文档在生成答案中高频率出现，从而操纵答答内容。近年 GEO 攻击已从手工重写演进为自动化、智能体化的优化方式，使目标文
WeaveMark: Robust and Scalable Multi-bit LLM Watermarking via Coded Payload Spreading
WeaveMark 是一种面向大型语言模型（LLM）的多比特水印方案，旨在解决现有方法在提取准确率、文本质量和载荷容量之间难以兼顾的根本性矛盾。传统多比特水印需要将用户可识别的消息嵌入到生成文本中，但通常只能在短消息或低扰动下保证较高准确率
Implicit Manipulation for Skill Selection in LLM Agents with Semantic Matching
本文研究了大语言模型（LLM）代理系统中的技能选择阶段的安全性。技能选择是决定用户请求由哪一个已安装技能来处理的关键环节。现有攻击手段主要依赖显式提示注入或指令级转向，这些方法容易暴露出可识别的操纵特征。针对这一空白，作者发现了一种新的隐式
Bonded Recourse for Smart-Contract Settlement of Compensable Agent Side Effects
本文面向自主智能体（autonomous agents）在跨组织执行工具操作时所产生的副作用治理问题。现有的授权机制仅能在操作前做准入控制，本地补偿模块只能处理运行时的回滚，二者都无法解决‘操作被允许却执行失败后留下残余损害’的难题。作者提
Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
本研究针对 AI 驱动的教育系统在隐私保护与准确认知诊断之间难以兼顾的显著挑战，提出了一种隐私保护的多 LLM 联邦推理框架。传统方法通常需要集中学生原始数据或直接访问商业模型内部，导致隐私风险。该框架允许多个商业 LLM API（例如 L