CiteShade: Citation Laundering in Multi-Source Retrieval-Augmented Generation and Its Counterfactual Defense
该论文研究的是检索增强生成（RAG）中被长期忽视的“引用通道”安全问题。RAG 会先检索外部知识，再基于检索结果生成答案，并为每一条答案附上来源引用；这些引用构成用户的审计线索——读者可以据此核对结论，而无需盲信模型本身。以往 RAG 安全
#LLM
共收录 2152 条相关情报。
← 返回所有主题Approval Integrity and Recovery in LLM Answer Publication
该论文聚焦 LLM 系统在“答案发布”（publication）环节的完整性与授权绑定问题：已获批准的内容必须与其当前的授权上下文严格绑定，否则会出现三类可区分的失效——语义层面的错误批准（把无依据的答案判为可用）、授权陈旧（审批时有效但发
Automating Attack Graph Construction for Agentic Pentesting. Towards Neuro-Symbolic Vulnerability Hunting
该论文研究如何为智能体渗透测试自动化构建逻辑攻击图，属于神经-符号漏洞挖掘方向。作者指出，基于扫描器输出、以逻辑形式表达的攻击图能够提供LLM智能体所缺乏的显式且可审计的攻击路径推理；但将MulVAL等符号框架集成到现代安全工作流或智能体流
Misleading the Planner through Deceptive Resumes: Registration-Time Injection in Centralized Multi-Agent Systems
该论文研究的是中心化 LLM 多智能体系统（MAS）在“注册阶段”引入的一类新型注入风险。在这类系统中，新加入的 worker agent 需要把自己的描述信息注册进系统，而 planner（规划器）会读取这些描述来决定三个关键决策：任务如
Empirical Evaluation of Task-Based Permission Scoping Architecture for AI Agents
该论文研究企业环境中 AI agent 的凭据配置问题。当前许多企业把 AI agent 当作员工自有主机来配置，在部署时一次性下发一套静态凭据，包含该员工角色未来可能用到的全部权限。基于角色的访问控制(RBAC)之所以对人类主体做这种妥协
Divide, Consult, Conquer: Capability Laundering Through Aligned LLMs
这篇论文指出，当前语言模型安全评估普遍以“单次交互”为单位，即判断某一条请求/响应是否有害；而这种评估范式忽略了一个结构性缺口：能力可以被拆分、外借并在本地重新组合。作者提出并命名了这种攻击范式为“能力洗白（capability laund
CounterPersona: Append-Only Defense Against Unauthorized Persona Skill Distillation
该论文关注的是「人格技能蒸馏」（persona skill distillation）带来的隐私与劳动自主权风险：攻击者可以从个人历史信息（如文本、对话、行为记录）中提取反复出现的行为模式，把它们编码成可复用的技能，从而让 AI 系统高度复
SpliTEE: Improving LLM Inference on Trusted Hardware with Differentially Private GPU Outsourcing
该论文研究如何在可信执行环境(TEE)中高效、安全地运行大语言模型(LLM)推理。背景问题是: 用户提交给 LLM 的提示(prompt)可能包含敏感或隐私信息, 而远程部署的模型可能通过重训练时的无意记忆等途径滥用这些信息。一个自然的防护
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
该论文聚焦大语言模型微调阶段的后门数据投毒评估方法学。传统后门研究通常固定投毒样本数量，再从候选数据池中随机抽取投毒集合，并据此估计模型的最坏情况脆弱性。作者指出这种做法会严重低估真实风险：在三个基于 LLaMA-3-8B 的后门实验设置中
Reversibility-Verified De-identification for Cloud-Local LLM Inference: A Locally Certified Dehydrate-Rehydrate Loop with Layered Assurance (DR-SL)
本文针对「云-端协同 LLM 推理」中的隐私取舍问题提出 DR-SL 框架（Dehydrate-Rehydrate with Self-Learning loop，脱水-再水化自学习闭环）。现实困境在于：企业希望把敏感用户数据留在本地，却又
TriCalRAG: A Three-Strategy, Retrieval-Augmented Benchmark for On-Premise LLM-Based Root Cause Analysis in AIOps
该论文面向 AIOps 场景中的根因分析（RCA）任务，指出现有做法多依赖云端托管的大语言模型，虽然能力较强，但会带来数据隐私外泄风险、网络往返延迟以及随生产日志规模线性增长的按查询计费成本，难以在日志量极大的生产环境中长期支撑。为此作者提
PIMENTO: A Privacy Framework for Querying Text
PIMENTO 是一个针对非结构化文本分析隐私保护的框架。当前两种主流隐私保证——上下文完整性（CI，约束信息可流向何处）与差分隐私（DP，约束可推断出什么）——都难以直接映射到自然语言上，导致现有方案无法为文本分析提供形式化保证。PIME
AcquireBound: Runtime Authorization for Resources Acquired by AI Agents
该论文聚焦一个此前被忽视的授权盲区：自主 AI 智能体在执行任务过程中会「获取(acquire)」计算资源、凭证、账户、外部服务乃至其他智能体，这些被获取的对象一旦返回，就会给原任务引入新的权限。作者指出，现有的支付校验、预算控制、OAut
CIG-MIA: Context-Induced Information Gain Membership Inference Attacks against Retrieval-Augmented Generation
该论文研究的是针对检索增强生成(RAG)系统的知识库成员推断攻击(Membership Inference
LLM Agent Capabilities Should Follow Task Intent and Context Source
该论文关注 LLM Agent 在执行真实动作（运行代码、修改文件、调用外部服务、委派子任务）时的权限最小化问题。与传统系统中「能力预先定义」不同，Agent 真正需要的最小权限是动态的，取决于其「任务意图」——它想做什么、以何种方式做。驱
EchoFuzz: Empowering Smart Contract Fuzzing with Large Language Models
本文提出 EchoFuzz，一个由大语言模型（LLM）引导的智能合约模糊测试框架，旨在解决现有智能合约模糊测试中的两大瓶颈。背景方面：智能合约作为去中心化应用的基石，自主管理着规模达万亿美元级别的数字资产，因而成为攻击者的高价值目标，漏洞检
The Deception Delta: Adversarial Evaluation of LLM-Based Smart Contract Bytecode Forensics
该论文系统评估了大型语言模型在区块链取证场景中解读未验证智能合约字节码时的鲁棒性。作者构造了 13 个目的性设计的合约（其中 9 个为欺骗向量、4 个为功能匹配的对照组），并在 6 种提示策略下测试 22 个前沿模型，最终得到 8,528
BlueSTAR: Tiered Agentic Architecture for Autonomous Cyber Defense
该论文针对当前网络攻防节奏失衡的现实问题展开研究：攻击行为日益自动化，人类分析师可用于检测、推理与响应的窗口被大幅压缩。大语言模型（LLM）因具备关联异构证据、对未见威胁进行推理的能力，被视为实现自主网络防御的潜在基础，但直接把 LLM 接
Signing the Transaction but Not the Decision: Whisper Attacks and a Binding Defense for AP2
该论文关注自主软件代理代替用户进行购物与支付的场景。当前主流的代理支付协议（如 AP2）会对已完成的购买生成密码学有效的签名，但这些签名只保证交易动作在协议层面合法，并不约束代理形成该决策的过程。由此产生一个结构性缺口：普通的商品描述文本即
FST Pay: Deterministic Safety-Gated Architecture for Youth Digital Payments
该论文关注青少年数字支付场景中的安全架构问题。背景上，数字支付基础设施正越来越多地向未成年用户开放实时金融服务，这虽然有助于提升金融素养与数字普惠，但也使年轻用户暴露于冲动消费、社会工程诈骗、未授权交易和商户不当利用等风险。现有对策主要依赖