Beyond Single-Model Injection: A Threat Model and Defense Architecture for Prompt Injection in Multi-Agent Systems
该论文指出，现有提示注入（Prompt Injection）研究几乎都局限于单模型聊天机器人场景，即攻击者通过精心构造的输入操纵单个 LLM。作者认为多智能体（Multi-Agent）系统引入了三种单模型场景中不存在的放大机制：其一，智能体
#threat-model
共收录 12 条相关情报。
← 返回所有主题State Without a Landlord: An Architecture Proposal for Peer-to-Peer Replication of Durable Workflow State
该论文聚焦持久化执行（durable execution）框架中「工作流状态归谁所有、由谁背书」这一根本问题。当前主流做法是：框架把长时运行函数的每个执行步骤写入日志（journal），故障后依靠确定性重放（deterministic re
Beyond the Trust Boundary: A Critical Reassessment of the FIDO2 Threat Model
本文对 FIDO2/WebAuthn 威胁模型进行了批判性重新评估。FIDO2 作为抗钓鱼认证方案已被广泛部署，其安全性通常被认为由设计保证，只要密码学实现正确。然而，作者指出在现实部署条件下，若干常见的安全假设并不成立。他们将威胁模型扩展
Delegation Without Trust: An Empirical Gap Analysis of Identity, Authorization, and Runtime Governance in Multi-Agent LLM Systems
本文针对多智能体大语言模型（LLM）系统中的授权与运行时治理问题展开研究。作者指出，自主 LLM 智能体日益代表用户持有凭证、调用工具与服务，并能派生子智能体进一步行动，这使得分布式系统中经典的“谁被授权做什么、依据谁的授权”问题变得紧迫且
Towards More Practical Threat Models in Artificial Intelligence Security.
本文针对人工智能安全研究中威胁模型与工业实践脱节的问题进行了系统性分析。作者指出，近年来学术研究关注的 AI 安全威胁往往不能反映实际部署场景，例如模型在真实环境中通常不是孤立运行的，而是作为更大机器学习流水线的一部分；同时，学术攻击所依赖
PCR Automation Threats and Mitigations.
该论文研究了自动化PCR（聚合酶链反应）过程中面临的安全威胁，并提出了相应的缓解措施。自动化PCR在生物医学研究中日益重要，但其自动化特性也引入了新的攻击面，如设备操控、数据篡改或程序干扰。论文可能分析了攻击向量，并设计了防护框架或安全协议
What Does It Mean to Break a Distillation Defense?
本文针对黑盒大语言模型（LLM）的蒸馏攻击防御问题展开研究。蒸馏攻击指攻击者通过查询API接口获取教师模型输出，并训练学生模型来复制其能力。近期研究提出输出扰动防御方法，通过修改教师模型输出降低学生模型性能，同时保持对合法用户的可用性。然而
AI Sandboxes: A Threat Model, Taxonomy, and Measurement Framework
本文提出了一个针对AI沙箱的威胁模型、分类法和测量框架。随着AI系统越来越多地在受限环境中进行评估（结合隔离、仿真、检测、监督和证据捕获），尤其是物理AI、AIoT和网络物理系统，测试环境的可信度和安全性变得至关重要。作者首先形式化了沙箱边
SoK: Self-Generated Nudes over Private Chats: How can Technology Contribute to a Safer Sexting?
本文是一篇系统化知识综述（SoK），针对移动应用中用户自拍裸照（self-generated nudes）分享行为的安全、隐私与问责问题展开研究。作者首先通过系统文献综述，从10,026篇搜索结果及交叉引用中筛选出相关学术论文，同时调查了主
Helping or Hindering?: How Browser Extensions Undermine Security.
本文研究浏览器扩展对用户安全的影响。浏览器扩展是轻量级软件，用于增强浏览器功能，但常被授予高权限，可访问、修改网页内容，甚至拦截网络请求。尽管用户依赖扩展提升效率，但许多扩展存在安全漏洞，如滥用权限、数据泄露、注入恶意代码或成为攻击向量。作
Auditing Frameworks Need Resource Isolation: A Systematic Study on the Super Producer Threat to System Auditing and Its Mitigation.
系统审计是检测高级持续性威胁（APT）攻击的关键技术，但攻击者可能尝试破坏审计框架本身以隐藏恶意活动。本文对审计框架中的“超级生产者威胁”进行了全面系统的研究。该威胁使攻击者能够通过产生大量审计数据来淹没审计框架，导致其崩溃或性能严重下降，
The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive
本文是一篇立场论文，系统反思了过去近十年机器学习领域在深度伪造检测上的研究方向与实际威胁之间的错位。自2017-2019年起，该领域的研究主要围绕公共人物的换脸和说话头操控展开，担忧大规模虚假信息传播和视频证据欺诈。然而，作者通过统计202