The Distributed Detectability Band Against Marginal-Preserving Attacks
本文研究人工智能控制监控器（AI-control monitors）在面对分布式破坏攻击时的检测能力。传统监控器基于单步动作打分，但真实的危害可能分散在多个看似正常的步骤中，每个步骤的得分都低于警报阈值。作者提出了一种基于高斯Copula和
#distributed-attacks
共收录 2 条相关情报。
← 返回所有主题Stateful Online Monitoring Catches Distributed Agent Attacks
该论文研究了大型语言模型（LLM）代理在网络安全中的误用问题，特别是分布式代理攻击。作者指出，现有的安全监控器仅对单个代理上下文进行评分，因此无法检测到跨多个用户账户分布的恶意行为，这些行为在单个转录中看似无害。为了证明这一安全缺口，他们构