#machine learning

共收录 9 条相关安全情报。

← 返回所有主题
👥 作者: Zhihao Bai, Ke Wang 0040, Hang Zhu, Yinzhi Cao, Xin Jin 0008

正则表达式拒绝服务(ReDoS)攻击利用精心构造的输入使正则表达式匹配陷入超线性时间复杂度,从而导致 Web 服务性能严重下降甚至瘫痪。现有防御方法主要关注攻击前的检测与防护,但针对零日 ReDoS(即利用未知漏洞的攻击)的快速恢复机制尚属空白。本文提出 RegexNet,这是首个基于 payload 的自动化、响应式 ReDoS 恢复系统。RegexNet 在运行时持续更新机器学习模型,该模型以请求内容及数据库查询响应为特征,对即将到达的请求进行实时分类。若判定某请求可能引发 ReDoS,则将其迁移至沙箱中隔离执行,从而快速恢复主服务正常运转。作者实现了 RegexNet 原型,并将其与 HAProxy 和 Node.js 集成。实验结果表明,RegexNet 能有效恢复 Web 服务在零日 ReDoS 攻击下的性能,响应时间在分钟级别,并且对多种攻击类型(包括为逃避检测而自适应调整的攻击)均具有鲁棒性。本文为 Web 服务提供了一种全新的运行时恢复视角,适合安全运维人员阅读以了解前沿防御思路。

💡 推荐理由: 零日 ReDoS 攻击难以提前防御,RegexNet 提出了一种基于 ML 的运行时恢复方法,可在不影响正常流量的前提下隔离恶意请求,对提升 Web 服务韧性具有实际参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Na Li, Boyu Kuang, Hongsheng Hu, Liquan Chen, Hyoungshick Kim, Yansong Gao, Anmin Fu

该论文研究了真实数据与文本到图像(T2I)生成数据混合训练(RSMT)对隐私泄露的影响。尽管在学术界和工业界,使用T2I合成数据扩充真实数据已成为缓解数据稀缺和隐私限制的常见做法,但先前研究主要关注合成数据替代敏感样本对隐私的保护作用,而忽略了混合训练中剩余真实样本的隐私风险。本文首次揭示RSMT会显著放大真实训练样本的隐私泄露。作者建立了理论框架“RSMT记忆放大”,证明合成数据的加入会将真实样本推向混合特征空间的边缘区域,导致模型更主动地记忆这些样本。基于此理论,提出了系统性评估风险的成员推断攻击方法RSMIXLeak,包括两种变体:非对抗变体用于评估良性RSMT管线下由真实与T2I数据固有差异导致的下界泄漏;对抗变体则考虑攻击者控制T2I模型或贡献恶意数据,通过高级语义属性绑定或不可察觉的像素级涂层人为扩大目标类的分布差异,进一步放大隐私泄露同时提升下游模型效用。最后,提出一种轻量级泄漏倾向指标,仅需真实数据即可计算,可靠识别不适合进入RSMT的高风险数据集,作为可自评估的缓解措施。该研究对数据隐私保护、机器学习安全及合成数据应用有重要警示意义。

💡 推荐理由: 首次揭示真实与合成数据混合训练会放大隐私泄露,挑战了业界普遍认为合成数据能保护隐私的假设,对使用T2I数据增强的模型训练场景具有根本性安全影响。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Wenhao Li 0005, Duohe Ma, Zhaoxuan Li, Huaifeng Bao, Shuai Wang 0079, Huamin Jin, Xiaoyu Zhang 0002

本文提出了一种基于可解释人工智能的入侵检测系统(XAI-IDS),旨在解决传统基于规则的入侵检测系统效率低下、规则更新滞后以及纯AI驱动系统决策过程不透明、误报率高的问题。XAI-IDS通过集成可解释的深度学习模型,利用树正则化技术将复杂神经网络模型转化为高效、透明的决策树,从而在保持检测精度的同时实现实时检测和可解释性。在两个基准数据集上的实验结果表明,XAI-IDS在检测准确率、误报率以及实时性方面均优于传统方法和现有AI方案。该研究为网络安全领域提供了一种兼顾性能与可解释性的入侵检测新范式,特别适用于需要快速响应和透明审计的场景,如企业内网防护和工业控制系统安全。

💡 推荐理由: 传统入侵检测系统面临规则陈旧和AI模型黑箱的双重困境,XAI-IDS通过树正则化实现精度与可解释性的平衡,有助于降低误报率并提升运维信任度,是AI安全落地的关键进展。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: John Fields, K M Sajjadul Islam, Ruchitha Thota, Victor Chen, Praveen Madiraju

该论文提出了一种基于远程数据科学(RDS)的隐私保护机器学习(PPML)框架,用于跨机构学生保留率预测。研究利用PySyft平台,设计了一个半气隙架构,包括高侧和低侧服务器,使得来自三所大学的研究人员能够在敏感学生数据上构建预测模型,而无需直接访问原始数据。实验使用一所小型私立大学的历史数据(N=720),评估了三种合成数据生成方法,并提出了一种名为“数据类型感知模板”(Data-Type-Aware Templates)的新型合成数据方法,该方法优先考虑隐私而非分布保真度。通过跨机构协作验证,该框架在不同机构间保持一致的分类性能(Macro F1: 0.690-0.695),同时严格遵守美国《家庭教育权利和隐私法案》(FERPA)。研究表明,基于RDS的PPML在教育场景中技术上可行,并且是小规模跨机构合作中联邦学习的一种实用替代方案。论文代码已开源。

💡 推荐理由: 该研究为教育机构提供了一种合规共享敏感数据、协同建模的可行路径,有望推动隐私保护机器学习在教育领域的实际应用。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Hongzhe Zhang, Jiarong Xu, Jing He, Xiao Fang

信用风险预测是消费信贷行业的核心问题。传统上,金融机构使用借款人的人口统计、财务和信用历史数据(统称为传统数据)构建预测模型。近年研究表明,替代数据(如手机通信数据)能为贷方提供更全面准确的借款人信用评估,从而提升预测性能。然而,替代数据由独立于金融机构的外部实体持有,直接共享会侵犯消费者隐私,现有研究大多忽略此问题。为填补空白,本文定义了隐私保护的信用风险预测新问题,需同时满足三个实际约束:保护消费者隐私的隐私保护约束、在金融机构集中学习并存储模型的模型保密约束,以及维持模型性能的无损约束。为此,作者提出 PrivacyCredit,一种新颖的隐私保护机器学习方法,并从理论上证明其满足隐私保护、模型保密和无损特性。通过使用与替代数据关联的真实信贷数据集进行广泛实验,展示了安全整合替代数据于信用风险预测中的预测价值,并证明 PrivacyCredit 达到了与从传统数据与替代数据不安全明文组合中学习的模型相同的预测性能。文章还评估了其模型保密特性和计算效率。

💡 推荐理由: 该研究为金融机构安全整合外部替代数据提供了可行方案,在保护消费者隐私和模型机密性的同时不牺牲预测性能,对合规数据共享和隐私计算落地有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Van Le, Trevor Tran, Tan Le

本文针对自主航天器在轨运行时面临的网络射频(RF)威胁,提出采用TinyML(微型机器学习)技术实现轻量级、低延迟的机载检测。研究以SPARTA攻击模型为基础,覆盖了上行链路干扰、Fake-NR欺骗、有效载荷篡改、地面段入侵以及未授权命令注入五类典型威胁。作者系统分析了四种经典机器学习模型(随机森林、逻辑回归、支持向量机、多层感知机)在TinyML兼容环境下的延迟-准确率权衡。理论分析部分结合物理信息,计算各模型的计算复杂度、VC维、Lipschitz连续性及延迟缩放特性;实证部分则利用BandErasure、FakeNR和NoiseBurst三种对抗性RF频谱图生成方式,在合成数据集上测量性能。实验结果表明,逻辑回归模型在微秒级推理速度下,准确率仅比随机森林低约1%,因此被推荐为机载自主检测的有效TinyML基线。研究还指出,通过引入更丰富的特征编码器和多时间尺度学习架构,可进一步提升航天器网络安全的检测能力,这为边缘智能与可信AI在航天领域的应用提供了方向。本文适合航天网络安全、嵌入式AI以及TinyML技术的研究者和工程师阅读。

💡 推荐理由: 航天器在轨自主防御要求毫秒级响应,传统大模型难以部署。本文首次系统评估TinyML模型在空间RF威胁检测中的延迟-准确率折衷,为资源极度受限的航天环境提供了实用基线。

🎯 建议动作: 研究跟进:关注逻辑回归模型在真实航天RF数据上的泛化性,并探索多时间尺度特征编码的可行性。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Weiran Lin, Keane Lucas, Neo Eyal, Lujo Bauer, Michael K. Reiter, Mahmood Sharif

该论文针对机器学习模型面对逃避攻击时的鲁棒性评估问题,指出现有的有目标鲁棒性和无目标鲁棒性指标无法准确反映现实场景中的威胁。具体来说,在许多实际应用中,攻击者可能只关心将某类源样本误导至某类目标样本,而非任意类别。为此,论文正式定义了一种新的鲁棒性指标——基于分组的鲁棒性(group-based robustness),该指标能够衡量模型在特定源类集到特定目标类集的攻击场景下的表现,补充了传统指标的不足。实验表明,该指标能在传统指标不适用的情况下有效区分模型对不同威胁模型的脆弱性。为了实现高效准确的评估,论文提出了两种新的损失函数和三种新的攻击策略。实验证明,使用新损失函数可以在保持相似成功率的同时,将计算复杂度降低与目标类别数相同的倍数;新攻击策略相比暴力搜索方法可节省高达99%的时间。最后,论文提出一种防御方法,将基于分组的鲁棒性提升多达3.52倍。该研究为模型鲁棒性评估提供了更贴近实际威胁的框架,适合机器学习安全研究人员、AI系统开发者以及需要部署对抗环境下的模型工程师阅读。

💡 推荐理由: 该论文提出的分组鲁棒性更贴合实际攻击场景,能帮助防御者精准评估模型在特定威胁下的表现,并为定制化防御提供理论依据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Antonio Flores-Montoya, Junghee Lim, Adam Seitz, Akshay Sood, Edward Raff, James Holt

该论文提出了一种新的反汇编算法,该算法将反汇编问题转化为加权区间调度问题,并利用学习得到的权重进行指令选择。反汇编是逆向工程、二进制重写等二进制分析和转换技术的第一步。现有的反汇编方法通常包含三个阶段:探索阶段(过度近似二进制代码)、分析阶段(为候选指令或基本块分配权重)以及冲突解决阶段(从候选集中选择最终的指令集)。本文提出了一种适用于多种架构(x86、x64、arm32、aarch64)的通用反汇编算法,其核心创新在于采用了一种新的冲突解决方法,即通过加权区间调度来减少反汇编问题。该方法将指令视为区间,每个区间有对应的权重,然后通过求解最大权重不重叠区间集合来得到最终的反汇编结果。权重可以通过学习得到,从而提升反汇编的准确性。实验部分(摘要未提及,但论文应有)展示了该方法在不同架构上的有效性,与现有方法相比具有竞争力。该研究为反汇编领域提供了一种新的视角,有望提升二进制分析工具的效率和准确性。

💡 推荐理由: 反汇编是二进制安全分析的基础,本文提出的通用算法能提升跨架构的反汇编准确性和效率,对逆向工程、漏洞分析和二进制重写等工具有重要影响。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Khalid M. Ezzat, Muhammad El-Saba, Mahmoud A. Shawky

本文针对医疗健康信息交换(HIE)网络中设备认证的安全与效率平衡问题,提出了一种新颖的跨层认证方案。该方案将传统密码学机制与物理层(PHY)认证相结合,以在确保可靠通信的同时最小化计算和通信开销。初始认证阶段采用基于公钥基础设施(PKI)的方法,利用椭圆曲线密码(ECC)和数字证书验证设备合法性,并同时提取设备独特的硬件特征,如载波频率偏移(CFO)和正交偏斜。这些特征用于在由区域中心权威(RCA)管理的离线阶段训练机器学习(ML)模型。在重认证阶段,系统从传入的正交频分复用(OFDM)符号中重新提取物理层特征,并通过训练好的ML分类器实时验证设备身份。这种跨层策略实现了连续、轻量的身份验证,无需为每条消息交换和验证密码签名,从而降低了系统开销。方案还通过使用加密且频繁刷新的伪身份增强了隐私保护,确保不可链接性和抗身份追踪。形式化安全分析(BAN逻辑)表明,该方案能够抵抗冒充、中间人(MitM)、重放和女巫攻击等多种威胁。

💡 推荐理由: 针对医疗HIE网络中的安全认证问题,提出了一种结合密码学与物理层特征的跨层方案,在保证安全性的同时显著降低计算开销,为资源受限的医疗设备提供高效认证新思路。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)