#cs.NE

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Raj Patel, David Amebley, Taye Akinrele, Shaswata Mitra, Sayanton Dibbo, Shahram Rahimi

本文系统评估了脉冲神经网络(SNN)的不同配置(神经元模型与脉冲编码方案)在网络入侵检测中的性能。背景:传统深度学习模型计算需求高,难以部署到边缘设备和神经形态硬件,而SNN具有低功耗、事件驱动的特性,是潜在替代方案。但SNN的神经元模型和编码方案选择对入侵检测效果的影响尚不明确。方法:作者在snntorch框架上实现了9种神经元模型与3种脉冲编码方案(速率编码、增量编码、延迟编码)的27种组合,对NSL-KDD、KDDCup99、CIC-IDS2017、CTU-13四个基准数据集进行控制消融实验,仅对原始输入做有限预处理,并使用5个随机种子确保统计可靠性。结果:发现脉冲编码方案比神经元模型对检测质量影响更大;延迟编码优于速率编码和增量编码;LeakyParallel神经元配合延迟编码在四个数据集上平均准确率92.11%,宏F1分数0.80,假阳性率2.01%,在CIC-IDS2017和CTU-13上接近完美,且推理速度最快。结论:SNN在低延迟或资源受限场景下可作为传统入侵检测方法的有效替代。该研究为SNN在网络入侵检测中的应用提供了设计指南。

💡 推荐理由: 为资源受限的边缘设备或神经形态硬件部署入侵检测提供了可行的轻量级AI方案,有助于降低能耗和延迟,扩展网络安全防护的物理边界。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Subhadip Mitra

本文研究了大型语言模型 (LLM) 在跨代际间的安全对齐是否单调提升。作者选取 Google 的 Gemma 系列四代模型(7B-31B),采用质量多样性进化算法(MAP-Elites)作为自动化红队探测工具,对模型进行对抗性攻击生成和评估。实验发现,Gemma 3 (12B) 的攻击成功率 (ASR) 高达 68.7% ± 5.7%,显著高于其前代 Gemma 2 (45.5% ± 7.2%) 和后继 Gemma 4 (33.9% ± 1.8%),表明安全对齐并非单调提升,而是存在非单调波动。通过跨代重放演化攻击库,发现其他代攻击迁移到 Gemma 3 的成功率为 44-46%,但迁移到 Gemma 4 仅 14-18%,说明 Gemma 4 的安全增益具有泛化性。在特定漏洞类别上,版权和网络犯罪攻击在所有代中接近 100% 成功,但版权结果对评委模型敏感;虚假信息 ASR 从 Gemma 2 的 29% 跃升至 Gemma 3 的 99%,在 Gemma 4 中仍高达 77%,表明该回归未被完全修复。这些模式在静态基准中不可见,仅通过自适应、纵向探测揭示。所有实验使用 3 个随机种子和统一的自托管评委模型,代码和工件公开。

💡 推荐理由: 该研究揭示 LLM 安全对齐存在非单调回归,即新模型可能比旧模型更脆弱,这对模型更新和部署策略有重要警示意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Subhadip Mitra

当前针对大型语言模型(LLM)的对抗性测试方法存在覆盖不足的问题:人工红队测试难以规模化、LLM作为攻击者的方法容易出现模式崩溃(产生重复或相似攻击)、基于梯度的攻击则生成不可读的乱码。本文提出一种质量多样性(Quality-Diversity, QD)进化框架,在语义层面运作,演化出可解释的攻击策略而非直接操作词元序列。该方法使用MAP-Elites算法,在行为维度(策略类型、编码方法、提示长度)上维护一个多样化的攻击存档。实验覆盖GPT-4o-mini、Claude 3.5 Sonnet、Gemini 2.0 Flash以及一个开源编码模型(Devstral-small-2)。结果发现不同模型具有独特的脆弱性特征:GPT-4o-mini对假设性提示和多重回合框架结合ROT13编码的攻击最为脆弱(适应度0.8);Gemini对直接攻击搭配ROT13以及多重回合加Leetspeak敏感(0.8);而Claude在所有策略下都表现出一致的不确定响应(最大适应度0.4)。语义表示产生的攻击可解释,揭示了系统性的、模型特定的弱点,为改进LLM安全提供了可行见解,并建立了可复现的基线以评估未来前沿模型。代码和实验产物已开源。

💡 推荐理由: 自动化发现不同LLM模型特有的漏洞模式,比人工红队更高效,为安全团队提供可操作的攻击策略库,缩小安全测试覆盖盲区。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sebastian Gruber, Tobias Harzfeld, Christoph G. Schuetz, Florian Wohner, Thomas Lorünser

本文针对时间紧迫场景下的隐私保护分布式优化问题,提出了一种结合进化算法与安全多方计算(MPC)的方法。分布式优化中多个参与方协作寻找问题的最优解,但传统方法在添加隐私保护(如MPC)后会产生显著运行时开销,可能导致优化无法在截止时间前完成。本文的核心方法是将进化算法用于解空间的搜索,而将MPC用于对候选解的安全性评估,从而减少隐私计算对运行时间的影响,并确保能在截止时间前返回解。此外,通过对评估结果进行混淆处理,可进一步保护诚实但好奇的平台提供者的隐私输入,但这会在保护程度与解质量之间产生权衡。实验在单目标分配问题、旅行商问题(采用遗传算法)以及多目标分配问题(采用NSGA-II)上验证了所提方法的有效性。实验结果表明,该方法能够在保证隐私的同时,满足时间约束并得到可接受的解质量。该工作为时间敏感场景下的隐私保护分布式优化提供了新的思路,适合研究隐私计算与优化算法交叉领域的学者阅读。

💡 推荐理由: 实际应用中分布式优化常面临隐私要求和时间约束的双重挑战,本文首次系统性地结合进化算法与MPC来解决这一矛盾,为安全从业者设计高效且隐私合规的优化系统提供了可借鉴的方案。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)