#risk-certification

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Zhenpeng Li

该论文针对自动化安全决策中的风险评估提出了一种理论框架,指出无条件风险界限存在结构性问题:一个从不采取行动的“选择器”可以平凡地使风险趋于零,因此任何看似可靠的风险证书实际上可能掩盖了底层分类器的错误。作者建立了“决策契约理论”(Decision-Contract Theory),将风险证书定义为作用于系统输入的契约以及输出被判定为正确的语义关系,并证明弱化契约的任一部分都会隐藏基础分类器的错误。理论包含三个核心部分:误差守恒定律(误差在有害自动化、人工延迟和语义遮蔽之间重新分配而非消失)、无标签单一容量证书(用于证明结构性无能力,并通过风险可行细化区分可恢复的阈值错位与风险约束下的无能力),以及非退化可操作性证书(从构造上排除“全部弃权”的解)。论文以ATT&CK对齐的告警分流作为实例,针对基于LLM的入侵检测系统展开验证。实验覆盖3个入侵检测数据集、6种LLM和4个错误率阈值,结果表明在90.3%的配置中经验性错误归因风险保持在目标值或以下,平均正确自动化率为83.4%。容量诊断能够解释所有低效用配置,细化方法可区分真正的错位与风险约束下的无能力,并通过展示替代阈值得到确认。训练稳定性复测未发现确认的结构性无能力实例;真实细粒度攻击子类型标签确认了在真实多对一映射下的粗化迁移恒等式,并存在小但非零的遮蔽质量。该研究为安全自动化系统的风险认证提供了严谨的理论基础,有助于避免“空转”系统带来的虚假安全感。

💡 推荐理由: 该研究揭示了自动化安全决策中风险证书可能因“永不行动”而失效的结构性漏洞,为蓝队评估自动化告警分流系统的可靠性提供了理论工具,避免被形式化指标误导。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)