Self-Evolving Defense: Continual Security Policy Learning for LLM Agents
本文关注 LLM 智能体（agent）在真实生产环境中的安全防护问题。随着大模型驱动的 agent 越来越多地获得访问敏感数据、调用外部工具、以及直接修改代码仓库的能力，其攻击面显著扩大，典型风险包括越狱（jailbreak）、提示注入（p
#continual-learning
共收录 13 条相关情报。
← 返回所有主题EvoSherlock: Towards Agentic Lifelong Evolution for Unseen Long-Tailed Security-Critical Events in Videos
该论文针对安全导向视频理解（SVU）系统在真实世界安全关键事件中面临的挑战，指出现有系统假设封闭世界（静态类别、充足标签、已知事件类型），而现实中的安全事件呈长尾分布、新类型持续涌现、关键事件样本稀少。为此，作者形式化定义了“视频中长尾安全
Domain-Incremental Learning for Multi-Channel Replay Speech Detection
复放攻击是语音控制系统面临门槛最低的威胁之一，而暴露复放行为的声学线索会随攻击所处的声学环境发生强烈变化。这意味着部署在现场的检测器必须随着时间持续吸收新的声学条件，同时理想情况下不能反复回看历史录音，因为长期保留语音数据既昂贵又受法律合规
Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery
持续学习（Continual Learning, CL）旨在让模型能够从按顺序到达的任务中获取新知识并保留旧知识，但灾难性遗忘问题一直存在。现实场景中，数据流往往来自不可信来源，可能被攻击者注入极少量后门毒化样本，对持续学习器的稳定性、可塑
Adapter-Based Few-Shot Continual Learning for Malicious Packet Recognition
本文针对恶意流量识别中模型需要不断适应新型恶意软件变体、但传统重新训练成本高昂且易发生灾难性遗忘的问题，研究了小样本类增量学习（FSCIL）这一特定设置。在该设置下，模型需要在仅拥有少量标注样本的情况下学习新增的恶意软件类别，同时不遗忘已学
Catastrophic Learning: A New Attack Vector on Continual Learning Networks
该论文针对持续学习（Continual Learning, CL）网络提出了一种新的安全攻击向量。持续学习旨在让深度模型在不遗忘旧知识的前提下，从数据流中迭代学习，但现有对抗研究主要关注重新诱发灾难性遗忘或降低模型可用性。作者发现了一种全新
Adaptive Intrusion Detection System using Transformer-Based Neural Networks and Continual Learning Approach with Adversarial Investigation
本研究提出了一种基于Transformer的自适应入侵检测系统（IDS）框架，旨在解决网络安全环境中威胁分布不断变化所导致的模型性能衰退问题。传统IDS在固定流量快照上训练，部署后会因数据分布偏移而性能下降；针对新攻击进行微调会导致灾难性遗
Code Division Modulation Layers Against Forgetting and Inference in Continual Gait Identification
本文提出了一种基于码分调制层（CDML）的方法，用于解决持续学习在步态识别系统中面临的灾难性遗忘和隐私推理攻击问题。持续学习允许模型逐步吸收新任务的知识，而无需重新训练整个模型，在生物识别领域具有降低计算成本的潜力。然而，传统持续学习方法在
Traceback Translators Against Forgetting in Continual Fake Speech Detection
该论文聚焦于持续学习场景下的假语音检测问题。随着语音生成模型不断演进，假语音检测器需要持续更新以识别新类型的伪造语音。然而，传统的微调或增量学习方法会导致灾难性遗忘，即模型在适应新数据时显著丧失对旧数据的检测能力。作者提出一种基于域翻译器的
Continual Backdoor Training in IoT/CPS
该论文聚焦于物联网（IoT）和网络物理系统（CPS）中持续学习（CL）环境下的后门攻击安全问题。随着IoT/CPS系统需要不断适应环境变化、设备异构性和概念漂移，持续学习被广泛用于提升系统效用。然而，持续学习的增量更新、回放缓冲区和表示重用
Amnesia: A Stealthy Replay Attack on Continual Learning Dreams
本文研究了持续学习（CL）模型在经验回放机制下的安全漏洞。经验回放是缓解灾难性遗忘的常用技术，但其对重放采样干扰的鲁棒性尚未充分探索。现有攻击通常修改输入或训练流程（如投毒、后门），且很少包含显式的可审计约束，缺乏现实性。本文定义并利用了可
SEED: Semi-supervised Continual MalwarE Detection for Tackling ConcEpt Drift on a BuDget
该论文针对基于机器学习的恶意软件检测器因概念漂移（即良性软件和恶意软件随时间演变导致检测模型过时）而性能下降的问题，提出了一种名为 SEED 的半监督持续恶意软件检测方法。现有方法（如使用层次对比损失 HCL 结合主动学习）依赖大量标注数据
FreeMOCA: Memory-Free Continual Learning for Malicious Code Analysis
FreeMOCA 是一项针对恶意代码分析中持续学习挑战的研究。每年超过 2 亿个新恶意软件样本被发现，传统的反病毒系统仅在新样本上重新训练会导致灾难性遗忘和可利用盲区，而使用全部数据集重新训练则计算成本高昂。FreeMOCA 提出了一种无记