The Tokens Remember: When Tokenization Bypasses Knowledge Editing and Unlearning
该论文研究开放权重大模型时代的一个关键安全问题：模型编辑（model editing）与机器遗忘（machine unlearning）被广泛用于在不重新训练的前提下修改或删除模型中的特定知识，以支撑合规删除（如被遗忘权）和有害内容抑制。但
#LLM
共收录 2152 条相关情报。
← 返回所有主题The Vulnerability of Neural Audio Watermarks under Speech Enhancement
该论文研究神经音频水印（neural audio watermark）在语音增强（Speech Enhancement, SE）模型面前的鲁棒性问题。研究背景是：随着商业语音生成系统大量部署神经水印以实现 AI 生成语音的可溯源，业界对其鲁
Calibrated Decision Models for Autonomous Penetration-Testing Harnesses: JEV and Laya as System One Decision Layers for LLM-Driven Pentest Agents
该论文关注自主渗透测试编排框架（autonomous penetration-testing harness）中的决策可靠性问题。当前这类框架普遍使用大语言模型（LLM）完成侦察、利用与报告生成，但同时也让同一个 LLM 去确认漏洞发现是否
Control the Harness, Control the Cost: Routing and Governing AI Coding Agents in the Enterprise
论文关注企业大规模部署 AI 编码智能体（coding agent）所带来的成本与治理问题。所谓 harness，指运行 AI 编码智能体的产品（如 Anthropic 的 Claude Code、OpenAI 的 Codex），企业通常不
Codetta: High-Capacity, Keyless, and Undetectable Multi-Agent Collusion
该论文研究的是基于大语言模型（LLM）的多智能体系统在高风险场景（金融、医疗、软件工程）中的隐蔽串通风险。由于智能体之间通过自然语言消息协调，这些通道同样可被用于泄露机密信息或协调未授权操作；而隐写术可以把这类通信隐藏成对审计者而言看似普通
Blockchain-Enabled Artificial Intelligence and AI Agents for Secure Data Sharing and Cybersecurity Applications
本文是一篇面向区块链与人工智能融合方向的元综合（meta-synthesis）论文，作者 Harsh Verma 将四项既有研究整合进统一的分析框架：对抗性机器学习（训练数据与模型行为的完整性）、云环境中的 AI 驱动异常检测（实时监控的可
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
该论文研究的是 LLM 智能体在企业级大规模工具集环境下的安全可扩展性问题。作者指出，若让智能体直接访问全部内部工具，会带来三个后果：上下文窗口被撑爆、工具选择质量下降，以及严重的治理漏洞——因为仅写在提示词里的系统策略本质上是概率性建议，
Agent Approval Laundering: Transitive Effects Beyond the Approved Invocation
这篇论文（cs.SE）系统研究了编码智能体（coding agent）审批机制的覆盖盲区。问题起点是：审批界面把人类的批准决定绑定到某一条命令或某一个工具调用上，但开发者工具真正执行的是该调用所激活的整条传递性工作流。例如安装一个包可能触发
Persistent Billable State: Denial-of-Wallet Attacks and Defenses in Tool-Calling LLM Agents
该论文研究了多步工具调用型 LLM Agent 中一个此前被忽视的计费安全面。背景是：Agent 依赖宿主运行时（host runtime）在多个回合之间保存状态，而当运行时把外部工具的返回内容再次带入后续模型输入时，服务提供方会对这段内容
Your Model Is Leaking: Covert Information Transfer through LLM Residual Streams
该论文揭示了一种针对大语言模型（LLM）部署环境的新型隐蔽信道：在受限或气隙（air-gapped）网络中，运行时组件可被攻陷并滥用。由于隐私敏感机构常需将模型中间激活（如残差流）作为诊断产物导出到外部，攻击者可在推理过程中通过被篡改的运行
Where Cyber Agents Struggle: Bottleneck Analysis of Multi-Stage LLM Agents
该论文针对多阶段 LLM 网络代理（multi-stage LLM-based cyber agents）的评测方法提出批评与改进：仅看任务成功率会掩盖代理的低效、依赖重试的适应性，以及对执行证据的错误解读。作者对一个“自主对抗代理”系统做
Don't Read the Log: Execution Traces Contaminate Verifiers in Video-Generation Agents
该论文研究智能体式视频生成系统中的验证器污染问题。在这类“生成器—验证器”闭环中,LLM 先规划分镜并调用文生视频模型,再由多模态评审模型判断产出是否满足用户要求。为便于定位长流程中的失败环节,近期评测框架会有意把视频之外的信息一并交给评审
Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior
该论文关注一个新兴且具有安全含义的问题：大语言模型（LLM）正越来越多地通过 coding-agent harness（编码智能体脚手架）来运行，这类脚手架会检查代码仓库、调用工具并修改文件。因此，替换智能体背后的模型，可能会改变与安全相关
CCR: Towards a Common, Quality-Gated CACAO Integrations Registry for European Cybersecurity Automation
该论文面向网络安全自动化中的标准化、机器可读剧本（playbook）需求。OASIS CACAO 提供了厂商中立的剧本表示，但缺少调用外部产品和服务所需的、与具体产品绑定的集成构件（artefact）。作者提出 Common CACAO R
Control-Token Injection Suppresses Chain-of-Thought and Defeats Reasoning-Based Oversight in Tool-Using Agents
该论文挑战了当前 LLM 智能体安全的一个默认假设：工具调用型智能体的安全性常被视为模型本身的属性。作者用全精度、可控的实验证明，安全性实际上是「模型 + 解码与渲染链路（chat template 渲染、工具调用解析器）」的联合属性，且这
EVAGE: Autonomous MEV Generation and Adaptation via Multi-Agent Harness
该论文关注区块链生态中的最大可提取价值（MEV）问题。MEV 已成为区块链经济的重要力量，但其捕获长期被经验丰富的专业团队垄断，策略设计与工程实现高度依赖人工专家，难以在异构协议和不同链之间规模化复制。作者提出 EVAGE，宣称是首个全自动
Only Pay What You Must Spend: On-Demand Privacy Budget Payment for Differentially Private RAG
该论文关注在敏感数据上通过检索增强生成（RAG）部署大语言模型（LLM）时引入的严重隐私风险。已有研究将差分隐私（DP）应用于 RAG 以提供形式化隐私保证，但现有 DP-RAG 框架会迅速耗尽隐私预算。作者指出一个关键错配：预算支出与模型
The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems
随着大语言模型及其驱动的智能体（agent）能力增强，这些智能体日益自主化，并可代表用户在互联网上执行操作，例如自动管理用户的社交媒体账号。然而，部署在社交平台上的自动化智能体自身的脆弱性研究仍不充分。现有关于智能体投毒的研究通常假设攻击者
Solidity Meets LLMs: A Transformer-Based Approach to Smart Contract Vulnerability Detection
该论文关注区块链与以太坊生态中智能合约的安全问题。随着智能合约在去中心化应用中的采用度不断提高，合约逻辑日益复杂、所承载的资金价值持续上升，使其成为网络攻击的重点目标。作者指出现有检测手段（隐性指向传统静态分析与规则/符号执行类工具）在理解
Divide and Doubt: Diverse Distributed Poisoning for Retrieval-Augmented Generation
本文关注检索增强生成（RAG）系统中的语料投毒威胁：由于 RAG 会把外部语料检索后拼接进 LLM 上下文，攻击者只需向知识库注入少量文档，就可能操纵模型对特定问题的回答。此前针对开放域问答的多段落投毒研究，普遍把同一个目标论断反复写入风格