#observability

共收录 1 条相关安全情报。

← 返回所有主题
推荐 10.5
Conf: 50%
👥 作者: Abhinav Mishra, Kumar Sharad

本文聚焦于基于LLM的智能体系统(Agentic AI Systems)中委托执行的可观测性问题。在智能体系统中,代理可以动态选择工具、改变执行序列、并生成协作子代理,导致执行轨迹碎片化和交织。标准审计日志和执行追踪无法区分不同委托分配下的操作序列,因为相同的日志和轨迹可能对应多种委托关系。这种结构性欠定问题使得从因果结构重建委托范围变得不可行。现有审计、追踪和安全模式缺乏语义来重建跨异构系统的委托下操作。作者提出了一种智能体感知的可观测性子系统,包含轻量级网关和通用信息模型,能够在执行时绑定委托上下文。该子系统支持可靠的跨工具委托范围重建和直接取证查询,无需启发式时间窗关联。实验(论文中未详述)证明该方法能有效识别委托归属和访问/共享足迹,为智能体系统的安全审计和合规提供基础。

💡 推荐理由: 随着LLM代理在企业中广泛用于自动化决策,委托执行的可追溯性成为审计和取证的关键缺口。本文提出的方法填补了这一空白,使安全团队能够可靠地重建谁在哪个委托下执行了哪些操作。

🎯 建议动作: 研究跟进,评估是否可集成到现有智能体系统的可观测性栈中

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)