EVOMAL: Self-Poisoning in Self-Evolving Coding Agents
本文由多所高校和机构的研究人员提出，关注自我进化的大语言模型（LLM）编码代理的安全漏洞。此类代理能够从共享技能库中检索示例，并通过模仿这些示例来自动编写新技能。研究人员发现，这一自我进化过程中存在一种可被利用的“自我投毒”（self-po
#self-evolving
共收录 3 条相关情报。
← 返回所有主题Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies
本文系统性地研究了自进化LLM智能体系统（即能够自主更新其模型参数、记忆、工具和架构的智能体）带来的新型安全与隐私威胁。作者首先提出模块-生命周期攻击面（MLAS）矩阵，将攻击面分解为五个功能模块（大脑、认知资源、执行、自我设计、集体）和五
Poster: GLog: Self-Evolving Log Anomaly Type Prediction via Instruction-Tuned LLM and Clustering.
该论文提出了一种名为 GLog 的自进化日志异常类型预测框架，旨在解决现有日志异常检测方法在多云和微服务环境中的局限性。传统方法通常只能进行二分类（正常/异常），难以适应动态变化的日志模式，且在日志解析过程中存在语义损失问题。GLog 是一