When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization
本文研究生成式搜索引擎面临的恶意生成式引擎优化（GEO）攻击的防御问题。攻击者通过改写网页文档以迎合搜索引擎的引用偏好，从而操纵生成式答案，使目标文档获得更高可见性。现有GEO方法已从手工改写发展为自动化、智能体化的优化方式，显著提升目标文
2026-09-04 归档
今日共收录 1362 条安全情报，包含 399 个 CVE，552 篇安全通告，以及 120 篇研究论文。
← 返回归档列表AI-Assisted Design of a Post-Quantum Cryptographic Accelerator: A Deployed-Silicon Case Study
该论文报告了一个基于 AI（代理式大语言模型）辅助设计后量子密码（PQC）加速器的实际案例，并揭示了一个严重的验证盲点：标准已知答案测试（KAT）无法覆盖 ML-DSA 签名算法中依赖于消息的拒绝重采样路径。作者发现，一个通过全部 KAT
Implicit Manipulation for Skill Selection in LLM Agents with Semantic Matching
本文研究了大语言模型（LLM）智能体系统中技能选择（Skill Selection）阶段的安全漏洞。在典型的 LLM 智能体工作流中，系统需要根据用户请求从已安装的技能列表中选择合适的技能来处理任务。以往针对该阶段的攻击主要依赖显式提示注入
A Blind Trust, the Bloody Thrust: When Attacker-Controlled Hook Updates Steer AI Agent Harnesses towards Malicious Behaviors
该论文研究了现代AI智能体（AI agent）框架中的生命周期钩子（lifecycle hooks）机制，发现其存在一个被忽视的攻击面。在主流智能体框架中，生命周期钩子允许开发者将shell命令绑定到运行时事件（如会话启动、工具调用、文件编
ACLE-MCP: Attested Capability Leases for Execution-Time Trust in Remote LLM Tool Use
该论文针对远程 Model Context Protocol (MCP) 服务中大型语言模型代理调用外部工具时的执行信任问题展开研究。传统 OAuth 授权仅验证调用方身份，但无法保证后续工具调用确实由依赖方所期望的、提供方侧的工作负载执行
Bonded Recourse for Smart-Contract Settlement of Compensable Agent Side Effects
该论文研究自主智能体（Autonomous Agents）在执行跨组织边界的工具操作（如修改数据库、代码仓库、云服务等）时产生的副作用（side effects）如何通过智能合约进行经济补偿。现有方案仅覆盖操作前的授权（authorizat
When Safety Routing Breaks: Understanding Alignment Fragility under Benign Fine-Tuning
本研究针对大语言模型（LLM）在良性微调（benign fine-tuning）下安全对齐（safety alignment）被严重削弱的现象，深入探究了拒绝行为（refusal behavior）为何如此脆弱。以往研究常将这种失败归因于梯
Automated Vulnerability Injection in Smart Contracts Using Large Language Models
本文针对智能合约漏洞检测工具评估中缺乏带真实标注（ground truth）数据集的问题，提出了一种基于大语言模型（LLM）的自动化漏洞注入方法。该方法能够自动向 Solidity 智能合约中注入漏洞，并以 OpenSCV 中的 49 种漏
Agent Memory Is a Surface for Endogenous Authorization Laundering
这篇论文研究的是长期运行的 LLM 智能体在依赖持久记忆跨会话保存状态时，可能因记忆错误地表示不断演变的授权状态（包括权限、限制、撤销）而导致未授权行为。作者将此问题称为“内生授权洗钱”（Endogenous Authorization L
SpiderSapien: Client-Centric Web Crawler and Security Scanner
现代Web应用日益动态化和交互化，黑盒爬虫和安全扫描器在安全测试中扮演重要角色，但现有最先进的扫描器未能充分应对客户端侧的极端动态性和交互性。本文指出沉浸式交互（immersive interaction）是扫描器深度探索现代Web应用的关
Reveree: Diagnosing LLM Reverse-Engineering Agents
该论文提出一个名为 Reveree 的诊断框架，用于评估大语言模型（LLM）代理在逆向工程（RE）任务中的真实能力。以往研究通常以 CTF 逆向挑战中是否成功获取 flag（solve rate）作为唯一指标，但这种二值化评估无法揭示代理在
Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference
本文提出了一种名为 Stateless Bernoulli Watermarking (SBW) 的新型大语言模型（LLM）统计水印方法。现有的水印技术如 KGW 依赖词汇表置换，SynthID 使用多层锦标赛结构，均存在较高的计算开销和中
Inferring Hidden User Models from the Behavior of Personalized LLM Agents
本文针对个性化大语言模型（LLM）代理中的隐私保护问题提出质疑。近年来，这类代理会把用户历史信息转换为压缩或结构化的“用户模型”，并基于该模型做出个性化决策。由于原始文本记录从常规交互接口无法直接访问，人们通常认为这种设计在隐私上更加安全，
AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks
本文提出了一种名为 AlcaTRAz（Anchored Tree-Rule defense Against jailbreaks）的提示词级防御方法，用于抵御针对大型语言模型（LLM）的越狱攻击。越狱攻击通过精心构造的提示词绕过模型的安全对
SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
该论文针对基于大语言模型（LLM）的智能体（Agent）的安全对齐问题展开研究。智能体的性能由基础模型与执行任务时所使用的“harness”（即外部控制框架，包括提示词、技能模块、工具调用规则等）共同决定，因此其安全风险不仅体现在最终的有害
A Finger on the Scale: Covert Policy Steering through Agentic Skills
该论文针对可复用智能体技能（agentic skills）在大型语言模型（LLM）智能体供应链中的安全隐患展开研究。可复用技能本是为扩展智能体能力而设计的，包含任务流程、工具使用指导和输出约束等，但这些技能实际上充当了“外部化的行为策略”，
The Shape of Ownership: Verifying LLM Provenance through Semantic Structures
随着大语言模型（LLM）被广泛再分发、微调适配并封装为不透明API服务，传统依靠模型内部权重或部署记录来验证所有权的方式已不可靠。这催生了对“行为签名”的需求，即通过黑盒交互即可观察到的模型专属特征。然而，现有黑盒指纹方案大多依赖固定的“查
Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization
该论文提出并评估了一个针对生成式引擎优化（GEO）滥用威胁的防御基准。GEO原本用于帮助内容生产者在生成式搜索引擎中提升自身网页的可见性，但攻击者可利用相同的技术发布外观普通、经GEO优化的文档，使受害的大语言模型（LLM）在检索和综合信息
WeaveMark: Robust and Scalable Multi-bit LLM Watermarking via Coded Payload Spreading
大型语言模型（LLM）的文本水印是支撑AI内容溯源与版权保护的关键技术，其中多比特水印可把用户ID等可识别信息嵌入生成文本，以追踪内容来源。然而现有方法普遍在提取准确率、文本质量和载荷容量之间面临“不可能三角”式的折衷：提高载荷容量常导致文
Transfer Safety Awareness for Cross-Modal Safety Drift in Multimodal Large Language Models
本文系统研究了多模态大语言模型（MLLMs）中一种新出现的安全问题：跨模态安全漂移（Cross-Modal Safety Drift）。具体而言，当用户输入一个看似良性的文本查询，但结合图像上下文后可能传达出有害意图时，模型往往无法正确识别