#resilience

共收录 12 条相关安全情报。

← 返回所有主题
👥 作者: Gysella Imrell, Emanuele Miotto, Mahya Mohammadi Kashani, Mauro Conti, Alberto Giaretta

本文针对具身网络物理系统(机器人等)在遭受主动网络攻击时面临的特殊安全困境展开研究。与纯信息系统不同,这类系统的攻击后果不仅涉及数据泄露,还可能直接威胁物理完整性与人身安全。现有安全方案(如入侵检测系统)虽擅长发现异常,却普遍缺乏运行时机制来判断:攻击造成的扰动是否可容忍、系统性能退化是否仍处于安全运行边界之内。这一缺失导致系统在攻击持续期间陷入“优雅失败瘫痪”(graceful failure paralysis)——无法区分安全的降级状态与灾难性危害。为填补该空白,作者提出并实现了 RobResilience:在 Webots 仿真环境中,基于 PR2 机器人与 ROS2 搭建的形式化弹性框架实现。该框架在运行时评估三个谓词:可容忍扰动 δ、可容忍退化 γ 与缓解可行性 μ;被攻陷设备集合由 IDS 置信度分数推导得到。当弹性丧失时,框架触发可用的缓解策略。评估采用 8 个攻击场景,系统性地覆盖谓词状态空间的所有可能组合,并变化攻击目标、退化速率与缓解措施可用性。实验结果表明,实现的运行时行为与理论定义保持一致。该工作适合机器人安全、网络物理系统弹性、形式化方法以及 IDS 集成方向的研究者与安全工程师阅读。

💡 推荐理由: 机器人/CPS 攻击可造成物理伤害,安全团队需要从“检测告警”走向“运行时弹性决策”。该工作把 IDS 置信度转化为可容忍性判定并触发缓解,为安全运营与安全控制层集成提供可参考的思路,避免系统在攻击中陷入瘫痪。

🎯 建议动作: 研究跟进;纳入机器人/CPS 安全评估参考

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Branka Stojanović, Andreas Flatscher, Michael Somma

本文针对工业控制系统(ICS)和运营技术(OT)环境下基于异常的入侵检测系统(IDS)所面临的正式韧性要求展开研究。当前,这类系统被期望具备吸收对抗扰动、在持续攻击下优雅降级以及提供经认证的系统级保障能力。然而,现有的网络物理系统韧性框架通常在架构层面定义“吸收-恢复-适应”轨迹,并未将机器学习异常检测器视为一等公民组件,导致组件级鲁棒性评估与系统级韧性认证之间存在鸿沟。作者的核心观点是:ICS异常检测中的对抗鲁棒性本质上是系统韧性的一种具体实例化。为此,他们正式建立了二者之间的映射关系,将四种韧性构造——扰动类别、吸收容量、恢复轨迹和退化函数——对应到对抗机器学习的设定中。在此基础上,论文推导了异构ICS检测网络的组合韧性界,揭示了关键结论:系统级韧性的约束条件并非各节点自身的吸收容量,而是攻击路径上每个节点经过耦合调整后的吸收容量;因此,最具约束性的节点不一定是最弱的节点。在BATADAL水分配系统基准数据集上的实验验证表明,所提出的度量指标能够显现出标准基准无法察觉的、具有操作意义的现象:其一是对抗训练过程中出现的“吸收-退化分歧”(即模型吸收扰动能力上升的同时,系统退化函数表现出现异常偏离);其二是“孤立加固韧性约束节点反而导致系统级韧性下降”的悖论。这些发现对ICS架构设计和安全认证标准具有重要启示意义。论文适合关注ICS/OT安全、对抗机器学习、韧性工程以及相关基准评估的研究人员和安全架构师阅读,为在系统层面上重新审视异常检测模型的鲁棒性评估提供了新视角。

💡 推荐理由: 该研究颠覆了‘加固最弱节点即可提升系统韧性’的直觉,为ICS异常检测评估提供系统级组合视角,直接影响检测器部署与安全认证策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Gregory Blanc, Takeshi Takahashi 0001, Zonghua Zhang

本论文为 ARTMAN '25 研讨会(第三届弹性与可信机器学习驱动系统前沿进展研讨会)的征稿与主题介绍。该研讨会聚焦于机器学习驱动的系统在面对故障、攻击和异常时的韧性与可信性,旨在汇聚安全、可靠性与机器学习交叉领域的研究者。文中概述了研讨会的核心关注点,包括:如何在不可信或对抗性环境中确保 ML 系统的持续运行、如何评估和提升模型对恶意输入的鲁棒性、以及如何将形式化保证与运行时监控结合以增强系统可信度。同时,研讨会鼓励探讨真实场景下 ML 系统的部署挑战,如分布式系统、边缘计算和关键基础设施中的可靠性。尽管 abstract 未展示具体技术细节或实验方法,但明确了研讨会的目标是为研究者提供一个交流最新攻击与防御思路、分享实证经验的平台。本文适合对机器学习系统安全性、可恢复性设计感兴趣的学者和安全工程师阅读,作为了解该领域前沿研究方向与开放问题的入口。由于仅有研讨会简介,缺乏具体方法论和结果,本摘要仅基于 abstract 内容。

💡 推荐理由: 机器学习系统正被广泛部署于关键业务,但其面对对抗性干扰和故障时的韧性仍是重大盲区。本研讨会主题直接指向蓝队急需的可信ML落地思路,值得关注。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.3)
👥 作者: Ioannis Zografopoulos, Karen Largman, Isaac Ortega Romero, S M Zia Ur Rashid, Yexiang Chen, George Fragkos, Charalambos Konstantinou, Subhash Lakshminarayana, Juan Ospina, Airin Rahman, Suman Rath, Vivek Kumar Singh, Mucun Sun, Wei Sun

本报告由 IEEE PES 工作组撰写,聚焦大规模能源互联网(Energy Internet, EI)系统的安全性与弹性问题。EI 系统通过深度数字化将电力层、信息层和市场层紧密耦合,形成典型的网络-物理融合系统(CPS),其安全威胁面已从传统物理攻击扩展到网络攻击、数据篡改、供应链风险及 AI 模型对抗攻击等复合维度。报告首先刻画了 EI 面临的网络-物理威胁全景,系统梳理了现有检测、保障与缓解技术;随后提出能够刻画网络-物理相互依赖关系的建模、控制与决策框架,重点涵盖储能系统集成、多维弹性评估以及电价预测等关键场景。在人工智能应用方面,报告专门分析了 AI 在 EI 中的可信部署问题,包括对抗性攻击风险、模型鲁棒性与可解释性挑战,并探讨了基于图论的攻击弹性信息路由机制,以提升分布式通信网络在故障或攻击下的生存能力。最后,报告从研究、标准制定和监管政策三个层面给出了实现大规模 EI 系统安全与弹性的建议清单。整体上,该报告旨在为电力系统工程师、网络安全研究人员、标准化组织和政策制定者提供跨学科的技术参考,强调 EI 安全不能仅依赖单一防护手段,而需要融合网络与物理域信息的综合对策。

💡 推荐理由: 能源互联网是国家级关键基础设施的典型代表,其安全事件可能引发大面积停电和经济损失。本报告系统梳理了 EI 特有的网络-物理威胁、AI 风险和攻击弹性路由等前沿方向,为蓝队人员理解此类系统的攻击面与防御切入点提供了权威参考。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Stephen Flowerday, Mauricio Papa, Ethan Flowerday

本文针对关键基础设施(CI)网络安全中过度依赖“恢复力”而缺乏“反脆弱性”理论支撑的问题,提出了一种面向关键基础设施网络安全的反脆弱性理论(AFT)。该理论基于五状态弹性系统模型,并给出了一个有界的数学定义,核心是利用 Jensen 增益和扰动后增益来量化系统在扰动中的改进能力。研究采用两层实证设计:一是从 CISSM 网络事件数据库中提取与关键基础设施相关的事件子集,二是采用 HAI 硬件在环工业控制数据集,验证了三项确认性假设和一项探索性命题。实证结果显示:OT 邻近行业出现破坏性或混合事件的份额显著高于对照组(65.3% 对 46.8%,p<0.001),且物理攻击和数据攻击子类型更为集中;在 HAI 数据集中,攻击标记观测值超过基线偏差第 95 百分位的可能性是正常观测值的 7.43 倍(p<0.001);在连续攻击窗口内,过程状态偏差均值显著下降(Spearman rho=-0.688, p=0.007),这表明存在可测量的响应变化,但并非自适应增益的充分证据。总体而言,研究确立了两个未来反脆弱性测试的前提条件:差异化的脆弱性负担和过程级扰动可观测性。该论文适合从事关键基础设施安全研究、工业控制系统安全防御及韧性工程的研究人员和工程师阅读。

💡 推荐理由: 该论文为关键基础设施安全提供了超越“恢复力”的反脆弱性理论框架,将数学定义与实证数据结合,对安全防御者理解复杂系统如何在扰动中改进而非仅恢复具有重要指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Md Aktaruzzaman, Atif Ahmad, Sean Maynard

该论文针对网络安全实践在多个层面(分析师、团队、组织、行业、监管机构)同时运行、与攻击者共同演化、以及人机混合决策日益普及的现实,指出现有网络安全理论往往局限于单一组织层面,无法解释为什么具有类似控制措施的组织在韧性上差异显著。为此,作者提出了STARC(Structuration Theory Adaptation for Resilient Cybersecurity)框架,该框架基于Giddens的结构化理论(Structuration Theory),通过三项创新——多层级对抗能动性(Multi-Level Adversarial Agency)、威胁自适应结构化(Threat-Adaptive Structuration)和物质-能动结构属性(Material-Agential Structural Properties)——扩展了理论边界,并围绕五个结构-能动三元组(structure-agency triads)构建分析体系。论文通过对澳大利亚、印度尼西亚和马来西亚三家金融机构的再分析(共20次访谈,访谈对象从SOC分析师到高级管理人员),展示了STARC框架的实际应用。这些机构代表了不同的内包和外包配置,但并非作为同类比较,而是作为多样化案例来呈现。STARC的核心贡献在于:从结构层面解释了为何不同资源与外包模式的组织在韧性上存在差异,并提供了一套诊断词汇,用于识别跨层级、跨节奏以及人机算法权威边界上的应急响应失败——这些方面是单一层面框架无法揭示的。此外,论文将结构化理论扩展到了对抗性、多层级和混合人机上下文,并提出了七个可检验的命题,将结构化与韧性联系起来,供未来研究验证。该研究属于理论构建类论文,适合网络安全治理研究者、CISO以及负责安全运营架构设计的从业者阅读,以理解组织韧性的深层结构性因素。

💡 推荐理由: 该研究提供了理解组织安全韧性的新视角,超越了传统技术控制评估,帮助安全负责人从结构和治理层面诊断为何安全投入未能转化为相应的韧性,尤其在人机协作日益复杂的今天具有现实意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ross Evans, Diogo Barradas

该论文提出了一种名为 Cache to the Future (CttF) 的分布式网页缓存系统,旨在应对互联网断网(因技术故障或政府干预)导致的知识获取中断问题。现有抗断网技术多依赖移动网状网提供有限的消息服务,但缺乏对 Web 内容的持续访问能力。CttF 通过社区节点分布式缓存静态网页内容,并利用数字签名和工作量证明等密码学机制抵御恶意篡改和虚假内容。系统采用去中心化的社区评分机制决定缓存优先级和内容可信度。模拟实验表明,CttF 在城市规模下能在多种良性和对抗场景中有效分发内容,为断网期间的知识持续访问提供了可行的解决方案。

💡 推荐理由: 该研究为网络中断环境下的信息获取提供了创新方案,对网络弹性、去中心化内容分发和审查对抗具有重要启示。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Alberto Giaretta

该论文针对网络物理系统(CPS)面临设备级网络攻击时的弹性问题展开研究。传统容错机制通过分析传感器和执行器输出检测渐进漂移或突发故障,并启动相应容忍机制,这在通用故障模型下合理,但无法捕捉网络攻击可能采用的细微策略。对于具身CPS(Embodied CPS),计算与物理设备不仅参与任务完成,还负责“具身保存”(即维持系统物理完整性),因此需要能主动响应网络攻击的框架以防结构性物理损害。论文提出一个正式的可信性框架,将入侵检测系统(IDS)信息整合到弹性评估谓词中,使系统能够评估对中断和退化的容忍程度。该框架支持结构化推理:网络攻击如何影响任务执行和具身保存,以及是否需要部署缓解策略。通过分析示例展示了框架的分析能力和正确性,为可靠且安全的具身CPS建立了理论基础。核心贡献在于形式化地将网络安全状态与物理弹性结合,为安全工程师在设计鲁棒控制逻辑时提供理论支撑。适合对CPS安全、形式化方法、弹性工程感兴趣的研究者和工程师阅读。

💡 推荐理由: CPS的物理完整性是安全盲区,传统方法无法应对网络攻击的隐蔽干扰。该框架提供形式化分析手段,有助于蓝队评估攻击对物理系统的影响并设计主动防御。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jingyi Yan, Ke Sun, Zhenglin Li, Hongying Jia

移动目标防御(MTD)是一种主动安全策略,通过动态改变系统参数来增强网络弹性,从而阻止攻击者获取执行隐蔽攻击所需的关键信息。本文针对智能电网场景,考虑操作员修改支路导纳以实现MTD的问题,重点研究如何以更少的支路导纳修改次数和更短的计算时间有效保护系统。通过理论分析,识别出导纳修改无助于提升MTD效果的无效支路。基于此,提出了一种基于母线遍历的移动目标防御(BT-MTD)算法,该算法根据解析推导的准则遍历网络中的母线,以选择有效的修改支路。在标准IEEE测试系统上,将BT-MTD与四种现有策略进行了评估比较,结果表明BT-MTD在有效性、效率和计算成本方面具有鲁棒性和优越性能。代码已开源。

💡 推荐理由: 智能电网作为关键基础设施,面临高级持续威胁。BT-MTD通过减少MTD部署成本,提升了防御可行性和经济性,为工业控制系统主动防御提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Isaac Ortega Romero, Ioannis Zografopoulos

本文针对电力系统在脱碳化背景下日益复杂的多维度弹性问题进行了系统综述与指数构建。研究指出,传统的单维度弹性评估方法无法捕捉到物理、运行、数字-网络、气候-外部以及经济-监管五个维度之间交互产生的系统性脆弱性。作者通过PRISMA 2020方法结合前后向滚雪球搜索,识别了现有研究在跨维度耦合方面的空白。在此基础上,提出了一个多维弹性指数(Multidimensional Resilience Index, MDRI),该指数能够同时捕捉内生耦合与外生放大效应。为了验证MDRI的有效性,研究者以2025年12月波兰能源基础设施遭受的网络-物理攻击为场景,模拟了不断升级的攻击情景。实验结果显示,级联与同时失效导致的退化程度是单一应力下的近8倍;外生条件(气候、经济-监管压力)进一步使退化放大近6倍,其中72%的放大由外生压力驱动。综合来看,与单向量参考相比,多维耦合机制使弹性损失增加了46倍。该研究为电力系统弹性评估提供了更全面的量化工具,并揭示了跨维度交互的非线性放大效应,对电网规划、运营和网络安全防御具有重要参考价值。

💡 推荐理由: 本文首次提出量化电力系统多维度弹性交互的指标,揭示了单一维度评估的严重不足,对电网安全运营者理解实际攻击下的弹性退化具有直接指导意义。

🎯 建议动作: 纳入内部评估

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhuo Zhang 0002, Guangyu Shen, Guanhong Tao 0001, Siyuan Cheng 0005, Xiangyu Zhang 0001

该论文研究了大型语言模型(LLM)在面对强制性审讯(coercive interrogation)时的韧性。强制性审讯是一种对抗性交互,攻击者试图通过重复、施压或诱导等方式迫使模型生成违反其初始对齐或安全约束的输出。作者提出了一种系统性的评估框架,通过构造一系列逐步升级的审讯策略(包括重复提问、情感施压、逻辑陷阱等)来测试不同LLM的抵抗力。实验在多个开源和闭源模型上展开,结果显示,即使是经过对齐训练的模型,在面对持久且针对性设计的审讯时,也表现出显著的脆弱性,可能泄露敏感信息、承认错误主张或产生不安全内容。论文进一步分析了模型内部机制(如注意力分布、神经元激活)与韧性之间的关系,发现模型在压力下会表现出注意力漂移和决策路径改变。主要贡献包括:定义和形式化了LLM强制性审讯问题;构建了包含多种审讯策略的测试基准;揭示了当前模型对齐技术的局限性;并提出了改进模型韧性的潜在方向,如通过对抗性训练增强鲁棒性。该研究对理解LLM在实际部署中的安全风险具有重要意义,提示开发者需关注模型在持续对抗性交互下的行为退化。

💡 推荐理由: 揭示LLM在对抗性压力下的脆弱性,挑战了当前对齐方法的有效性,对部署安全可信的对话系统至关重要。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Eunhan Ka, Satish V. Ukkusuri

本论文研究在网联自动驾驶环境(CAV)下,当路线引导信息不可靠或存在误导时,交通网络的逐日动态建模问题。现有模型未能同时考虑交通流适应和用户对信息源信任的演化。作者提出了一个耦合的逐日交通分配与信任演化框架:日内拥堵由Lighthill-Whitham-Richards网络加载模型描述;逐日路径选择遵循有限理性对数学习,其中对外部引导的依赖程度由信任水平调节。信任被建模为基于Beta证据模型的聚合类级行为依赖状态,并随重复的引导误差更新。理论分析给出了稳态均衡、保守稳定性判据、用于群体脆弱性的加权合规指数,以及解释攻击后信任滞后的非对称恢复律。在Sioux Falls(明尼苏达)和Anaheim(加利福尼亚)的数值实验表明,内生信任机制产生阈值依赖的韧性:低于信任激活阈值时,攻击行为隐蔽,动态信任几乎不起作用;高于阈值时,信任侵蚀使固定信任攻击的影响降低约91%(Sioux Falls)和85%(Anaheim)。此外,CAV渗透率提高会加剧固定信任攻击的脆弱性,但动态衰减能力保持;交通性能可在信任恢复前恢复,产生长达77天的隐蔽脆弱窗口。该工作为CAV交通网络的韧性分析提供了信任感知的建模基础。

💡 推荐理由: 揭示了CAV环境下信息误导可导致信任滞后与长期脆弱窗口,为交通基础设施安全防御提供新视角,提醒蓝队关注用户信任演化对网络韧性的影响。

🎯 建议动作: 研究跟进,评估该框架在真实交通管理系统中的可迁移性

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)