#proactive-defense

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Ruxue Shi, Yili Wang, Mengnan Du, Qinggang Zhang, Rui Miao, Yixin Liu, Xin Wang

该论文针对基于大语言模型(LLM)的多智能体系统(MAS)面临的安全威胁,提出了一种主动防御框架 SAIGuard。在 MAS 中,智能体通过通信协作完成复杂任务,但攻击者可利用恶意消息在智能体间传播风险,导致系统级故障。现有防御方法多为被动反应式,即在攻击执行后检测和隔离有害智能体,这可能导致不可逆的损害并降低协作效率。SAIGuard 采用通信状态模拟技术,对 MAS 交互图进行仿真,估计传入消息对局部智能体状态和全局 MAS 状态的影响。通过重构偏差检测,SAIGuard 能够识别偏离良性通信模式的危险消息,并在其传播之前对其进行净化或重新生成。实验在多种拓扑结构和攻击场景下进行,结果表明 SAIGuard 在保持 MAS 实用性的同时,显著降低了攻击成功率,性能优于现有的反应式防御。该研究为 LLM 多智能体系统的安全提供了一种前瞻性的主动防御思路。

💡 推荐理由: LLM 多智能体系统面临独特的安全风险,现有反应式防御存在滞后性。SAIGuard 首次提出基于通信状态模拟的主动防御,有望在攻击生效前拦截恶意消息,对保障协作式 AI 系统安全具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Song-Kyoo Kim

本研究提出了一种新颖的随机框架,用于在单一攻击场景下优化主动网络安全防御的时机决策。该框架将防御过程建模为连续观察机制,其中防御时刻及随后的观察时段分别服从独立的指数分布。通过结合Laplace-Carson变换和首次超越理论,推导出能够包围攻击时刻的联合检测函数。在马尔可夫泊松到达过程的假设下进行边缘化分析,得到了防御时刻的概率密度函数,以及攻击前和攻击后观察时间的条件期望。这些闭式解使得可以定量评估防御时机对威胁强度的敏感性,并支持对低延迟主动防御措施的观察参数进行精确校准。主要贡献包括显式推导了边缘分布和期望值,通过数值示例可视化防御时刻的密度,以及将随机对决方法(stochastic duel methodology)与实际的网络安全应用相结合。该研究为防御策略的定量分析与参数调优提供了理论基础,适合安全研究人员和需要设计主动防御系统的工程师阅读。

💡 推荐理由: 该研究提供了量化防御时机敏感性的数学工具,有助于设计更精确的低延迟主动防御策略,降低攻击者成功概率。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)