#gradient-optimization

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Lingzhi Wang 0002, Xiangmin Shen, Weijian Li 0002, Zhenyuan Li, R. Sekar 0001, Han Liu 0001, Yan Chen 0004

该论文提出了一种新颖的入侵检测方法,通过将梯度信息融入基于溯源的检测规则中,实现了轻量级且自适应的入侵检测。传统基于溯源的入侵检测系统通常依赖静态规则或机器学习模型,但存在规则难以适应新型攻击或计算开销大的问题。本文方法首先利用图神经网络从系统溯源数据中提取特征,然后通过梯度优化来动态调整规则权重,使得检测规则能够根据实际数据分布自动更新,从而在保持低误报率的同时提高对未知攻击的检测能力。实验在多个真实数据集上进行,包括APT模拟攻击和普通系统活动,结果表明该方法在检测率、误报率和计算效率上均优于现有的基线方法。该工作为入侵检测领域提供了一种兼顾准确性和实时性的新思路,特别适用于资源受限的环境。

💡 推荐理由: 提出一种将梯度优化与溯源的规则结合的方法,实现轻量、自适应入侵检测,有助于缓解现有基于规则或机器学习方法的局限性,提升对新型攻击的检测能力。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zheng Fang, Xiaosen Wang, Shenyi Zhang, Shaokang Wang, Zhijin Ge

本文针对音频语言模型(ALM)的越狱攻击展开研究。现有的越狱攻击通常在整个音频波形上密集地优化扰动,以诱使ALM生成不安全的内容。作者首先通过分析ALM中token对齐梯度的结构,发现梯度能量在音频token上高度不均匀,即只有少量token对应的音频区域主导了优化信号。基于这一观察,提出了Token-Aware梯度优化(TAGO)方法,该方法在每次迭代中仅保留与高梯度能量音频token对齐的波形梯度,而屏蔽其余梯度,从而实现稀疏越狱优化。在三个ALM(包括Qwen3-Omni)上的实验表明,TAGO在显著稀疏化(如token保留率0.25)时仍能保持较高的攻击成功率(例如Qwen3-Omni上ASR_l为86%,而完全保留token时为87%),证明了密集波形更新在很大程度上是冗余的。该工作揭示了token级别异质梯度结构,为未来ALM越狱和安全对齐研究提供了新方向,并建议防御者关注此类稀疏攻击的潜在威胁。

💡 推荐理由: 该研究揭示了音频语言模型越狱攻击中梯度结构的非均匀性,并证明只需少量token即可实现高效攻击,这提示防御者不能仅依赖全波形扰动防御,需开发针对token级稀疏扰动的检测与缓解措施。

🎯 建议动作: 研究跟进,评估自身ALM系统对此类稀疏攻击的脆弱性

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)