#cyber-deception

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Pedro Beltrán-López, Enrique Tomás Martínez Beltrán, Pantaleone Nespoli, Manuel Gil Pérez, Alberto Huertas Celdrán

该论文针对去中心化联邦学习(DFL, Decentralized Federated Learning)场景下防御能力不足的问题,提出了名为 DecoyTrace 的主动式网络欺骗防御方案。DFL 取消了中心聚合服务器,虽然避免了单点故障,但也同时消除了传统防御所依赖的唯一观测点:在纯点对点拓扑中,恶意节点提交的后门更新或语义投毒更新,在参数空间中可能与良性更新极为接近,仅在行为上存在显著差异,因此依靠被动参数审查的防御手段容易被规避。现有基于欺骗的防御主要面向中心化联邦学习设计,无法在严格无服务器的 DFL 中同时解决本地观测、投毒传播、来源归因与遏制四个问题。 DecoyTrace 的核心设计包含四部分:(1) 部署一个可移动的 DecoyNode(诱饵节点),该节点利用混沌映射(chaotic maps)生成诱饵挑战,使诱饵样本具有不可预测性与多样性;(2) 依据邻居信任度向对端分发“干净模型 / 诱饵模型”双模型,形成差异化观测;(3) 使用三态语义度量(three-state semantic metrics)对模型在诱饵挑战上的响应进行评估,从而识别那些在参数空间上与良性更新难以区分、但在语义行为上异常的对端;(4) 一旦确认恶意来源,触发分布式协议对该来源进行隔离,并执行模型重置或恢复以保留已有的训练进度,实现“欺骗—识别—遏制”的统一。 实验方面,作者在 NEBULA 平台上评测了 60 种配置组合,覆盖 5 个数据集、3 种拓扑结构与 4 类攻防场景。结果表明 DecoyTrace 能系统性地恢复被攻击削弱的模型效用:在 MNIST 与 FashionMNIST 上 F1 分数与基线差距控制在 0.03 以内(而未防御时最多下降 0.37);在 EMNIST 与 CIFAR-100 上达到或超过基线;在最复杂的卷积场景 CIFAR-10 上,与基线差距维持在 0.05 至 0.10 之间。此外,遏制机制使 CPU 与网络开销最多降低约三分之二。论文同时诚实地指出了该方法在复杂任务与多吸引子(multi-attractor)威胁模型下的局限性。整体而言,该工作验证了在无服务器 DFL 中统一欺骗、识别与遏制的可行性,为去中心化学习的安全运维提供了新的思路。

💡 推荐理由: DFL 去中心化后失去集中观测点,被动参数审查难辨语义投毒与后门更新。该方案用诱饵节点+双模型+语义度量实现主动发现与隔离遏制,并给出可量化的效用恢复与开销下降数据,对分布式 AI 训练平台的安全设计具有参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Veronica Valeros, Carlos Catania, Viliam Lisý, Harm Griffioen

该论文挑战了网络欺骗研究中一个常见但未经检验的假设:诱饵可以放置在攻击者可能经过的任何位置。作者针对MITRE ATT&CK v18.1框架中的所有250种攻击技术,引入了一个四准则评估体系来判断基础设施诱饵的可行性。该准则包括:防御者控制的诱饵是否可以放置、攻击者是否可能与之交互、交互能产生哪些情报、以及交互能否可靠地指示恶意行为。评估结果显示,仅有80种技术(32%)允许放置攻击者可能触及的诱饵,其余170种技术中,攻击者路径上根本不存在防御者可控制的资产以供伪造。诱饵放置模式分为两类:Sweep(攻击者在范围内广泛移动时偶遇诱饵)和Seek(攻击者主动寻找特定资产时与伪造版本交互)。此外,论文发现诱饵通常具有情报价值,但攻击者是否与之交互、交互是否可靠指示恶意行为因技术而异。作者公开了评估框架、决策规则以及逐技术评估结果,为未来的欺骗研究和部署规划提供了可审计的基线。该工作表明,不能假设基础设施诱饵适用于所有攻击者行为,部署计划需要根据具体技术特性进行定制。

💡 推荐理由: 该研究系统性地揭示了诱饵部署的局限性,为蓝队和SOC工程师提供了基于MITRE ATT&CK的欺骗可行性地图,避免在无效技术上浪费资源,并指导更精准的虚假资产配置。

🎯 建议动作: 纳入内部红蓝对抗评估,根据论文提供的逐技术评估表,审查现有欺骗部署的覆盖有效性,并调整诱饵策略。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 5.5
Conf: 50%
👥 作者: Umberto Salviati, Fabio De Gaspari, Mauro Conti, Luigi Vincenzo Mancini

该论文提出 ShellGames,一种基于大语言模型(LLM)的 SSH 壳层模拟器,旨在解决现有网络欺骗技术中难以维持长时间、可信交互式会话的挑战。当前蜜罐等欺骗手段往往缺乏真实性和动态性,容易被攻击者识破。LLM 虽能生成自然对话,但存在状态缺失、输出不一致、幻觉、延迟高以及易被行为诱导暴露欺骗等问题。ShellGames 通过五种互补技术克服这些局限:(i) 自动思维链与少样本学习提升命令执行正确性;(ii) 内存管理维护系统状态一致性;(iii) 推测命令执行降低响应延迟;(iv) 将复杂交互命令智能路由至沙盒环境执行;(v) 利用壳环境的受限输入输出域检测用户颠覆行为。为系统评估,作者引入标准化基准协议和数据集,涵盖正确性、一致性、状态跟踪和鲁棒性任务。实验表明,ShellGames 在正确性上达到 0.898 命令准确率(比基线高 5.3 个百分点),一致性上序列准确率 0.918(高 36 个百分点),状态跟踪准确率 0.98(高 18.3 个百分点),鲁棒性准确率 0.95(高 37 个百分点)。20 人用户研究证实其在自由探索场景下逼真度接近真实壳层,且命令覆盖感知优于传统蜜罐。该工作为 LLM 驱动的动态欺骗系统提供了实用架构和评估基准。

💡 推荐理由: 该研究将 LLM 应用于网络欺骗,显著提升了交互式蜜罐的真实性和抗检测能力,为蓝队提供了更有效的威胁诱捕手段。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)