The Oversight Gap: What LLM Safety Monitors Miss, and Why It Is Not Capability
这篇论文研究了LLM安全监控器在认证特定安全属性时存在的根本性局限。作者指出，一些被要求认证的属性（如跨租户非干扰、沙袋行为、评估意识）属于2-安全超属性，即只能通过两次执行来见证，因此单一执行轨迹在逻辑上无法判定它们。然而，作者没有停留在
#safety-monitoring
共收录 3 条相关情报。
← 返回所有主题Stateful Online Monitoring Catches Distributed Agent Attacks
该论文研究了大型语言模型（LLM）代理在网络安全中的误用问题，特别是分布式代理攻击。作者指出，现有的安全监控器仅对单个代理上下文进行评分，因此无法检测到跨多个用户账户分布的恶意行为，这些行为在单个转录中看似无害。为了证明这一安全缺口，他们构
Monitoring the Internal Monologue: Probe Trajectories Reveal Reasoning Dynamics
本文针对大型推理模型（LRMs）的安全监控问题展开研究。LRMs通过链式思维（Chain of Thought, CoT）推理过程提供了新的安全监控机会，但CoT并不总是忠实于模型的最终输出，从而削弱了其作为监控工具的可靠性。为此，作者探索