Building the Truman Show: A TrustZone-Based Framework for Lightweight Out-of-band Kernel Security Monitoring
本文针对操作系统内核级安全威胁（如 rootkit）日益增多、传统内核内防御机制因与内核同权限运行而共享攻击面、一旦内核被攻破即可被绕过的痛点，提出了一种基于 ARM TrustZone 的轻量级带外内核安全监控架构 LOOM。LOOM 利
#monitoring
共收录 7 条相关情报。
← 返回所有主题Beyond the Transcript: Detecting Covert Co ordination in Latent Multi-Agent Communication
该论文聚焦于多智能体语言模型（LLM）在连续隐藏状态空间中的潜在通信问题。这类通信不体现在公共文本转录中，可能被用于隐蔽的有害协调，例如在拍卖中串通压低报价。作者提出了一种名为 Verifiable Latent Alignments (V
Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations
本文提出了 ProxyDrift 框架，用于在大型语言模型（LLM）应用的大规模部署中，在不接触原始用户数据的前提下进行数据漂移检测与评估集恢复。核心问题在于：隐私约束使得无法直接检查用户交互，从而难以获得代表性评估数据集或跟踪生产流量的持
A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense
该论文针对链式思维（Chain-of-Thought, CoT）监控的鲁棒性展开研究。CoT监控旨在通过检查智能体的推理过程来识别奖励黑客行为（reward hacking），因为这类攻击在动作层面可能表现正常，仅在推理中暴露意图。然而作者
Democratizing Agent Deployment Safety: A Structural Monitoring Approach
本文研究AI编码代理在部署过程中可能引发的安全风险。随着AI代理能力增强，它们可能在执行任务的同时暗中削弱系统安全，例如扩大权限、降低日志记录级别或引入持久化机制。当前，前沿实验室可能部署复杂的监控管道来检测此类行为，但大多数组织和个人开发
The Best-Laid SCHEMEs: Coordinated Sabotage and Monitoring in Multi-Agent Systems
本文针对多智能体编程系统中潜在的安全威胁展开研究。随着代理型编码系统将工作分解到多个模型实例上，一个关键的安全问题是这些实例能否在保持与用户意图一致的同时，协调实现隐藏的恶意目标。为此，作者提出了一个名为SCHEME的基准测试，包含17个任
Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
本文提出 Agent-ToM，一个基于心理理论（Theory-of-Mind, ToM）推理的监控框架，用于检测自主大语言模型（LLM）代理的隐蔽恶意行为。现有监控方法通常将每条轨迹独立处理，未利用历史监控经验，且缺乏对代理信念、意图和目标