The Shape of Ownership: Verifying LLM Provenance through Semantic Structures
本文针对大型语言模型（LLM）在再分发、适配和透明API服务场景下所有权难以验证的问题。由于模型可能被微调、量化或通过黑盒API提供服务，传统的基于内部权重或部署记录的验证方式不再可靠，因此需要一种可通过黑盒交互观察的行为签名。现有黑盒指纹
#LLM
共收录 2152 条相关情报。
← 返回所有主题SpiderSapien: Client-Centric Web Crawler and Security Scanner
本文提出 SpiderSapien，一个以客户端为中心的 Web 应用爬虫与安全扫描器，旨在解决现代 Web 应用在客户端侧高度动态和交互性强、导致现有黑盒扫描器无法深入探索深层状态的问题。作者指出，沉浸式交互（immersive inte
CAPTCHAs in the Agentic Era: Solvers That Learn from Every Encounter
随着基于大语言模型（LLM）的智能代理（Agent）逐步渗透网络应用，视觉验证码正面临一种新的机械化威胁。以往专用检测器很慢或只处理固定类别，而视觉语言模型（VLM）能类人地看图识字，但每轮都从零开始推理，并不会从接触中积累经验。本论文提出
Poisoning Attacks on the PGM-index
本论文研究了一种针对学习型索引结构 PGM-index 的投毒攻击方法。PGM-index 是一种基于最优分段线性近似（PLA）的实用学习索引，通过最小化分段数量来提升查询效率。作者首次探讨了这种最优 PLA 本身对恶意数据插入的敏感性，提
Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization
生成式引擎优化（GEO）是一种通过操纵网页内容来提升其在生成式搜索引擎中可见度的技术，类似针对传统搜索引擎的SEO。然而，该技术可被攻击者滥用：他们制作看似普通但经过特殊优化的文档，当受攻击的大语言模型（LLM）在检索增强生成过程中获取并综
Retrosynthesis of Synthetic Media for Explainable AI Provenance Forensics
本文针对机器学习即服务（MLaaS）平台上生成模型快速普及所带来的合成媒体溯源难题，提出了一种无需修改生成器架构或参数的自引用逆合成框架，用于可解释的AI溯源取证。该框架假设生成器固定（fixed-generator setting），通过
Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning
本文针对基于大语言模型（LLM）的多智能体系统（MAS）在跨组织协作场景下的安全问题，提出了一种隐私保护的拓扑引导安全机制。现有方法通常假设单一运营方可以汇总所有标注轨迹，在全局通信图上训练图神经网络（GNN）以定位高风险智能体并干预拓扑结
When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization
该论文研究的是针对生成式搜索引擎的恶意生成式引擎优化（GEO）攻击的防御问题。GEO 攻击通过改写网页文档来迎合搜索引擎的引用偏好，从而操纵生成式搜索引擎在回答中优先引用或放大特定目标文档。近期的 GEO 方法已从手工改写演变为自动化、智能
WeaveMark: Robust and Scalable Multi-bit LLM Watermarking via Coded Payload Spreading
大型语言模型（LLM）的广泛应用带来了生成内容溯源与合规治理的需求。多比特水印技术通过将用户可追踪的身份信息嵌入模型输出文本，能够实现内容来源的精细化追溯。然而，现有方案普遍面临提取准确率、文本质量与载荷容量三者之间的根本性权衡。本文提出一
Stored Is Not Supported: Typed Provenance and Assertion Guardrails for Persistent AI Agents
持久化 AI 智能体通过反思、检索与整合构建自传式状态，但这种持久化仅改变信息的可用性，并未提升其认知地位——存储或检索到的内容并不能自动获得有效支持。因此，不受信任的输入、提示注入以及模型自身的推断都可能渗入持久状态，并在后续被系统误当作
Alleviating the Fear of Losing Alignment in LLM Fine-tuning.
本文研究大型语言模型（LLM）在微调过程中对齐（alignment）能力意外丧失的问题。尽管对齐训练可以促使模型拒绝回答不道德或有害的问题，但当模型针对下游任务进行微调时，这种对齐可能被削弱，导致模型再次输出有害内容。作者观察到，一个经过对
Comet: Accelerating Private Inference for Large Language Model by Predicting Activation Sparsity.
本文提出一种名为 Comet 的高效隐私推理系统，旨在加速基于云平台的大语言模型（LLM）推理服务，同时缓解用户对敏感信息泄露的担忧。当前主流方案采用安全多方计算（MPC）保护推理过程中的数据隐私，但 MPC 需要频繁的服务器间通信，导致显
Security Attacks Abusing Pulse-level Quantum Circuits.
该论文首次系统性地探索了针对量子电路中门级（gate-level）与脉冲级（pulse-level）接口以及脉冲级量子电路本身的安全攻击。传统量子程序通常基于门级原语定义，但为了提升电路表达能力并支持更优优化，脉冲级电路正被越来越多地采用。
TrajDeleter: Enabling Trajectory Forgetting in Offline Reinforcement Learning Agents.
该论文研究离线强化学习（Offline RL）中的轨迹遗忘（trajectory unlearning）问题。离线强化学习利用预先收集的静态数据集训练智能体，在医疗、能源管理等无法进行在线交互的真实场景中具有广泛应用。然而，随着数据隐私法规
Passive Inference Attacks on Split Learning via Adversarial Regularization.
本文研究拆分学习（Split Learning, SL）场景下的隐私泄露风险，提出了一种名为 SDAR 的新型被动推理攻击框架。拆分学习被视为传统联邦学习的实用高效替代方案，客户端在本地保留部分模型层（即私有模型）并只与服务器交换中间表征，
ClaimReceipt: Verifying Evidence Sufficiency and Coverage in Agent Evaluations
本文针对智能体（Agent）评估中的证据充分性与覆盖范围问题，提出了一套名为 ClaimReceipt 的声明相对收据规范与选择性验证器。研究背景是：在智能体评测中，存在两种不同的证据问题：一是已报告声明能否从保留证据中重新计算得出（充分性
Agent Flight Recorder: Tamper-Evident Audit Trails with On-Chain Anchoring for Long-Horizon Tool-Using Agents
长时程智能体（如自动编码代理）执行数千个动作，其故障往往是顺序蔓延而非孤立错误。针对此类场景中的问责、因果追溯和第三方验证问题，论文提出“Agent Flight Recorder”（AFR）：一种面向工具使用型智能体的防篡改审计追踪系统。
Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
本研究针对 AI 驱动的教育系统在隐私保护与准确认知诊断之间难以兼顾的显著挑战，提出了一种隐私保护的多 LLM 联邦推理框架。传统方法通常需要集中学生原始数据或直接访问商业模型内部，导致隐私风险。该框架允许多个商业 LLM API（例如 L
Agent Memory Is a Surface for Endogenous Authorization Laundering
这篇论文研究长效 LLM 代理（Long-running LLM agents）中持久内存（persistent memory）的授权状态管理问题。持久内存用于跨交互保存状态，包括权限、限制和撤销记录。作者发现，当内存错误表达不断演变的授权
Modelstamp: Pre-Deserialization Verification of Machine-Learning Artifacts and Runtime Environment State
本文提出 Modelstamp，一个轻量级 Python 持久化库，旨在解决机器学习模型在反序列化之前的完整性验证与运行时环境状态核验问题。研究背景是：已持久化的 ML 模型可以保持字节完全一致，但其加载所依赖的软件环境会随时间演变，因此仅