terms.txt: A Consent and Compensation Protocol for Agentic Web Access
该论文针对「AI 爬虫与智能体正在瓦解开放互联网默认契约」这一现实问题，提出了一套面向机器访问的授权与补偿协议。作者首先指出现状：开放网络长期依赖一项未写入合同的默契——网站允许爬虫抓取，搜索引擎以回送访客作为回报。公开测量数据显示这一默契
#LLM
共收录 2152 条相关情报。
← 返回所有主题ToxicRAG: Compromising Retrieval-Augmented Generation Systems via Single-Shot Knowledge Poisoning Attacks
该论文研究检索增强生成（RAG）系统中的知识投毒风险。RAG 通过外部证据为大型语言模型（LLM）的输出提供依据，提升事实性，但同时也把外部知识库变成了攻击面。既有代表性攻击通常需要注入多篇文档，或使用直接断言目标答案的模板化文本，成本和可
BenchShield: Formal Model-Backed Instrumentation for Reward Integrity in LLM-Agent Evaluation Infrastructure
本文针对 LLM 智能体（LLM-Agent）评测基础设施中的奖励劫持（reward hacking）问题，提出了一套名为 BenchShield 的模型化插桩与检测框架。背景在于：当前的智能体基准测试已经从静态问答演变为交互式评测基础设施
DeFiFusion: Combining Transaction Events with Smart Contracts to Detect Price Manipulation Attacks
该论文研究的是去中心化金融（DeFi）中的价格操纵攻击（Price Manipulation Attacks, PMA）检测问题。背景上，DeFi 作为基于区块链的快速增长型金融服务，其市场交易动态与底层智能合约逻辑深度耦合；这种无需中心化
Demystifying the Privacy-Utility Trade-off in LLM Interactions
该论文关注大语言模型进入日常任务后产生的隐私与效用矛盾：用户为了让模型完成复杂任务，必须提供上下文丰富的指令，其中往往夹带姓名、地址、账号、病史等敏感信息。目前主流的隐私保护做法是在把提示词发给模型之前套用一套与上下文无关的静态规则（例如统
A2ABreak: Systematic Security Analysis of the A2A Protocol
该论文《A2ABreak: Systematic Security Analysis of the A2A Protocol》针对由 Linux 基金会治理、正在成为多智能体生态水平通信层的 Agent2Agent（A2A）协议开展首次系统
No-Box Vulnerability Analysis: Description-only Detection of Indirect Prompt Injection Vulnerabilities in MCP Servers
传统漏洞分析通常依赖对目标系统的访问权限或与其动态交互，但在第三方分析师审计闭源、远程托管、关键在役系统或商业受限软件时，这两类条件往往都不具备。为此，论文提出一种新的分析范式——无盒漏洞分析（no-box vulnerability an
Big Enough to Break Out: Tracking the Rising Capability of LLM Penetration-Testing Agents
本文对基于大语言模型（LLM）的自动化渗透测试智能体（pentest agent）能力演进做了实测跟踪。作者选取两个都构建于 PentestGPT 之上的系统进行对比：一个是较早期的、采用人在回路（human-in-the-loop）模式的
Beyond Static Guarantees: Measuring the Static-Pass Dynamic-Fail Gap in Security-Sensitive and LLM-Generated Python Code
该论文提出并量化了「静态通过、动态失败」（Static-Pass Dynamic-Fail, SPDF）现象：代码通过了静态安全扫描，但在真实运行时仍可被利用。作者指出，静态分析因可扩展、可复现、成本低，被广泛当作软件供应链与 AI 生成代
CARTS: Contextual Autoregressive Rank Transcoding Steganography for Full-Capacity Keyed Text Encoding
本文研究的是如何利用自回归语言模型构建隐蔽通信信道的问题。其核心观察是：自回归模型在生成每个 token 时，会对候选 token 形成一个按概率排序的"秩"（rank）分布；如果在生成过程中保持每个位置上被选中 token 的相对秩不变，
Architecting the Secure AI-SOC: A Neurosymbolic Framework for Pipeline Integrity and Threat Mitigation
该论文聚焦于大语言模型（LLM）被引入安全运营中心（SOC）后所引入的新型攻击面。作者指出，将 LLM 用于威胁情报的聚合、解读与优先级排序虽然显著提升了分析效率，但同时也打开了间接提示注入（indirect prompt injectio
Towards Tackling Application Logic Flaws through Autonomous Formal-Logic Modeling and Automated Reasoning
该论文关注现代语义丰富系统与应用中的“应用逻辑漏洞”（application logic flaws）。这类漏洞与业务语义和威胁模型深度绑定，难以通过传统的模糊测试或静态分析规模化发现：真实系统往往包含多样的应用特性、复杂的协议逻辑与领域专
TrajMark: Ownership Attribution and Segment-Level Tamper Localization for Coding-Agent Trajectories
该论文关注编码智能体（coding agent）过程溯源问题。现有做法多为对智能体最终产出的补丁（patch）打水印，只能为提交的产物提供来源证据，却无法验证产生该产物的可见执行轨迹（trajectory）是否被篡改；而行为水印方法通常只给
Towards Scalable and Cost-Efficient Vulnerability Detection: A Study on Automatic Query Generation
该论文聚焦于静态分析在软件安全中的核心地位与 CodeQL 等工具面临的现实瓶颈：构建高覆盖率查询套件通常需要大量人工投入。尽管大语言模型（LLM）在代码推理方面展现出潜力，但其生成结构化、可执行安全查询的实际能力仍缺乏系统评估。为此，作者
Maverick: Private and Verifiable LLM Inference Made Practical via Matrix-Vector Multiplication Delegation
该论文面向一个日益突出的现实矛盾：开源大模型（LLM）在能力上已可与闭源模型竞争，并且允许用户在不把输入暴露给服务商的前提下本地推理，但大规模模型对本地算力要求极高，因此大量用户仍不得不租用第三方算力，从而重新引入隐私泄露与计算结果被篡改（
Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance
本文关注一个正在被政策与安全圈忽视的治理错位问题：当前主流的算力治理（compute governance）本质上是一种「训练治理」——在用的算力阈值、申报义务和前沿 AI 监管框架都挂在训练算力上，并把「训练完成的模型」当作监管单元。作者
AutoTrans: AI-Assisted Automatic Translation of Security Assertions for RISC-V Processors
该论文聚焦 RISC-V 处理器硬件安全验证中的一大效率瓶颈：把一组已在某个处理器目标上通过验证的安全断言（security assertions）复用到另一个 RISC-V 核上。这一过程目前主要依靠人工完成，单条断言的翻译往往要耗费数小
Subgroup Membership Inference Audits of Differentially Private Synthetic Text
该论文关注差分隐私（DP）合成文本发布中的残余隐私风险审计问题。合成数据被越来越多地提议作为敏感真实数据的替代品发布，即使通过DP对最坏情况隐私泄露提供理论保证，实践中仍存在残余风险。现有的成员推断攻击（MIA）审计只测量随机抽取记录的平均
CS-Guard: Benchmarking LLM Guardrails for Code Generation Security
该论文提出 CS-Guard——据作者所述是首个系统性评估「代码生成安全护栏（guardrail）」的基准测试框架。研究背景是：大语言模型已被滥用于生成恶意软件，但现有护栏在代码生成场景下的实际防护效果缺乏系统量化。CS-Guard 从两个
PrivAudit: A Dual-Lens Auditing Framework for Website Privacy Practices under the CCPA
该论文针对《加州消费者隐私法案》(CCPA) 生效五年后缺乏规模化合规审计手段这一问题, 提出了一套名为 PrivAudit 的自动化审计框架。作者指出, 既有研究多依赖人工、个案式的执法与检查, 无法系统性地覆盖网站面向用户的两个关键合规