The Poisoned Conversation: Privacy-Leaking Watermarks in Unified Multimodal Models
该论文关注统一式多模态模型（unified multimodal models）带来的新型隐私威胁。此类模型在同一个对话上下文中既能理解也能生成文本、图像等多种模态，交互更流畅自然，但这一设计也改变了原有的隐私威胁模型：对话某一部分暴露的信
#supply-chain
共收录 99 条相关情报。
← 返回所有主题Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
该论文针对新兴的 "Jev" 接口开展首次系统性安全、隐私与双用途研究。Jev 能将自然语言问题转化为带类型的答案与概率，具备低延迟、低成本特点，可作为应用决策层，用于请求路由、工具选择等。作者使用官方 Jev API 与本地可训练、可更新
CITADEL: CWE-Guided Insertion of Hardware Trojans via Analysis of DFG-Enabled LLMs
该论文关注的背景是：随着硬件木马（Hardware Trojan, HT）与系统级漏洞日益复杂，现代集成电路面临的风险不断上升；但研究界若要构造贴近真实的 HT 场景，负担非常沉重——研究者必须手工分析复杂的 RTL 结构、找出可能被利用的
Autonomous OSS Threat Detection via Taxonomy-Aligned LLMs
该论文聚焦开源软件（OSS）供应链安全检测问题。作者指出，当前 OSS 生态面临的供应链攻击手法日趋复杂，涵盖域名抢注/仿冒包名（typosquatting）、依赖混淆（dependency confusion）、Trojan Source
Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection
该论文研究的是参数高效微调（PEFT）场景下的后门防御问题。随着大语言模型（LLM）与 LoRA 等轻量微调方法的广泛采用，攻击者可以通过污染微调数据或发布被植入后门的适配器（adapter），使模型在特定触发条件下产生恶意输出，而基座模型
Aletheia: Permission-Minimality Testing for Coding-Agent Rules
该论文关注编码智能体（coding agent）所依赖的「仓库指令文件」（如 AGENTS.md、copilot-instructions 一类指导性规则）带来的安全风险：这些文件本意是引导智能体正确完成开发任务，但也构成一条 prompt
Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents
该论文研究 AI Agent 技能（Skill）供应链的安全检测问题。技能通过把指令与信息注入到 Agent 上下文中来扩展其能力，已被 OpenClaw、Claude Code 等 Agent 广泛采用；此前研究已证实第三方技能市场存在恶
Hiding in Plain Sight: Decoupling Pretext from Actuation for Skill Poisoning in LLM Agents
该论文研究 LLM Agent 的 Skill(可复用技能)供应链投毒问题。随着 Agent 越来越多地依赖可复用的 Skill 来完成多步骤复杂任务,Skill 内容成为一种关键攻击面:在用户请求本身完全无害的情况下,被投毒的 Skill
Can Agents Trust Their Skills? Uncovering Unsafe Chains of Trust in Skill-Based LLM Agents
随着 LLM Agent 从"对话助手"演变为"可扩展执行体"，可安装的 Skill（由指令、代码与资源打包而成）成为其能力扩展的主要方式：Skill 一旦安装，便可在后续用户任务中被自动调用。这形成了一条信任链——用户把权限委托给 Age
SKILLLITE: Evidence-Guided Malicious Skill Auditing with Compact LLMs
这篇论文研究的是 LLM 智能体生态中的「技能（Agent Skill）」供应链安全问题。随着基于大模型的智能体承担越来越复杂的任务，Agent Skill 成为一种灵活的能力扩展机制：它把面向特定任务的指令、可执行组件以及辅助资源打包在一
When Valid Tool Calls Change Meaning: Formation-Consistent Dispatch for LLM Agents
该论文聚焦于工具增强型 LLM 智能体(tool-enabled agents)在调用分派环节的一类结构性安全缺陷。作者指出：智能体在生成工具调用时，依据的是模型可见的接口描述(descriptor，即 schema、名称、参数说明)，而宿
MMSkillRisk: Can Agents Stay Safe When Multimodal Skills Become Traps?
该论文关注 AI Agent 技能（Agent Skills）生态中的一个新攻击面：技能是可在社区中共享、复用的程序化包，通常包含指令文本、工具定义和示例；多模态技能在此基础上还附带视觉参考图，Agent 在执行时会主动检索并"查看"这些图
The Privacy Fallacy of Crowdsourced Fine-Tuning: Extracting Proprietary Data via Topic-Based Poisoning
该论文研究监督微调（SFT）流程中被长期忽视的一个隐私风险。当前大模型适配下游任务普遍依赖众包方式收集用户对话作为 SFT 数据，以降低人工标注成本，但这也意味着不受信任的用户可以向微调数据管道中注入数据。作者提出的核心问题是：恶意用户是否
Training Witnesses: Trusting the Training without Trusting the Trainer
该论文针对机器学习领域一个日益尖锐的结构性问题：研究进展的速度已经超过了验证能力。随着论文数量激增，每一项科学结论在最初阶段都只能依赖对「训练者」的信任，由此造成评测标准不统一、基线不可比、可靠进展被拖慢。传统上验证负担落在读者身上——读者
Never Emitted: Reporter Attribution in GitHub's Machine-Readable Vulnerability Records
该论文《Never Emitted: Reporter Attribution in GitHub's Machine-Readable Vulnerability Records》研究漏洞记录中“发现者/报告者归属（credit）”信息的
Configuration, Not Conscience: A Large-Scale Empirical Study of LLM System Prompts
本文对商业大语言模型系统提示词（system prompt）的构成进行了迄今为止规模较大的实证研究。作者指出，业界与社区常把泄露的系统提示词当作窥探商业模型「隐藏价值观」的窗口，但很少有人在大规模语料上系统分析这些提示词究竟由什么内容构成。
FARE: Forensic Acceptance Region Estimation for Catching Bait-and-Switch Image Generators
该论文研究 AI 图像生成器以不透明 API 形式部署后的完整性审计问题。现实中，客户只能查询已部署的服务，无法检查模型权重或架构，这给"调包"（bait-and-switch）留下空间：供应商可能先以某个生成器通过治理认证，之后在部署阶段
TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement
该论文关注多模态训练数据投毒这一供应链安全问题。多模态模型依赖从外部渠道收集的图像-文本语料，攻击者可在其中注入经过精心构造的样本：这些样本本身看起来是合理的图文对，不暴露检测器所依赖的异常特征，因此表面干净的数据仍可能在训练后把模型行为导
DistillGuard: Malicious NPM Package Detection and API Attack Chain Analysis via Static Graph and LLM Distillation
该论文针对 Node.js/NPM 生态中恶意包泛滥、软件供应链攻击频发的问题，提出了一套名为 DistillGuard 的轻量级恶意 NPM 包检测框架。作者指出，恶意代码主要在包安装、导入（import）和运行时三个阶段被触发，而现有防
Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior
该论文关注一个新兴且具有安全含义的问题：大语言模型（LLM）正越来越多地通过 coding-agent harness（编码智能体脚手架）来运行，这类脚手架会检查代码仓库、调用工具并修改文件。因此，替换智能体背后的模型，可能会改变与安全相关