When Experience Becomes Instruction: Trajectory Poisoning in Self-Evolving Agent Skill Systems
该论文研究自进化智能体技能（Self-Evolving Skill, SES）系统中的轨迹投毒攻击。SES系统将智能体执行任务的轨迹蒸馏为持久化技能，使得原本不可信的经验在技能提升过程中转化为可信的指令。作者提出一种名为PoisonedEv
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Hardware Design and Security in the Era of Chiplets and LLMs
本文对半导体行业正在经历的双重变革——异构2.5D chiplet系统的普及以及将大语言模型（LLM）集成到电子设计自动化（EDA）流程中——进行了统一的安全分析。作者指出，尽管这些范式在良率、模块化、设计生产率等方面带来了前所未有的优势，
Gradient Immunity: Null-Space Resistance to Malicious Fine-Tuning
该论文研究的是开源大语言模型在发布后被恶意下游微调（malicious downstream fine-tuning）所引发的安全风险。现有防御措施主要面向微调即服务（FTaaS）范式，或依赖下游用户遵守额外安全流程，难以适用于论文关注的场
An Emerging Retail Portfolio Management Application: Personalized, Tax-Aware Reinforcement Learning with Natural Language Goals
本文提出并实现了一个面向零售投资者的个性化、税务感知的投资组合管理应用，填补了个人投资者与机构级服务之间的空白。现有机器人顾问多采用静态规则配置，而机构级系统往往有高门槛和专有技术栈，普通投资者难以使用。该应用包含 FastAPI 后端和网
When Does Latent Communication Pay? A Causal Audit of Relayed KV Caches in Multi-Agent LLMs
该论文对多智能体大语言模型（LLM）系统中中继键值缓存（KV cache）的因果有效性进行了审计。在多智能体系统中，智能体之间常以中继 KV 缓存代替明文文本，并声称这传递了“潜在思维”（latent thoughts）。论文指出，这种归因
PURPOSE: Poisoning Conflict Resolution in RAG via Proxy-Fact-Grounded Updates
本文研究检索增强生成（RAG）系统中后检索冲突消解机制对知识投毒的鲁棒性。现有黑盒投毒攻击通常以正面反驳的方式直接断言目标答案，与冲突消解器视为'已定事实'的参考信号形成明显矛盾，因此容易被检测。作者提出一种名为 PURPOSE 的严格黑盒
Innocent Panels, Hateful Stories: Evaluating and Detecting Hateful Intent in Multi-Turn Visual Story Generation
该论文聚焦于多轮视觉故事生成中的仇恨意图评估与检测问题。作者指出，图文绘本和漫画长期被用于传播仇恨叙事，因为它们易于理解，连儿童也能看懂，例如纳粹宣传绘本《Der Giftpilz》。随着Gemini、GPT-Image等前沿文本到图像系统
Breadcrumbing Search Agents
该论文研究基于大语言模型（LLM）的搜索代理面临的安全威胁。这类代理在信息检索任务中依赖外部工具返回的网页内容，而这些内容不可信，容易导致提示注入和意图劫持。以往的安全研究主要关注静态网页注入，但现代搜索代理会提出后续查询并对多个来源进行交
ASTELD: A Six-Axis Classification Framework for Autonomous AI Agents - Design, Evaluation, and an OpenClaw Case Study
本文提出 ASTELD，一个用于自主 AI 智能体平台分类的六轴操作框架。当前自主 AI 智能体平台在架构、安全性、工具集成、执行方式、自主性和部署等方面差异显著，但缺乏统一的分类体系来比较这些设计选择。ASTELD 框架的六个轴分别为：架
Combating Knowledge Corruption in Agent Systems: A Byzantine-Tolerant Secure Collaborative RAG Framework
本文针对检索增强生成（RAG）系统在大型语言模型（LLM）应用中面临的知识污染攻击问题，提出了一种名为 SecureCollaRAG 的拜占庭容错协作式 RAG 框架。研究背景是：虽然 RAG 能够缓解 LLM 的幻觉问题，但攻击者可通过投
Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)
该论文提出并实现了一个名为 Trident 的智能体化 LLM 红队框架，用于评估和攻破基于深度强化学习（DRL）的自主网络防御系统。研究背景在于：现有的 DRL 防御评估几乎完全依赖静态或启发式红队智能体，缺乏对自适应威胁的鲁棒性检验；同
Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents
本文针对模块化LLM安全代理的轨迹级风险认证问题展开研究。自主安全代理通常以分阶段流水线方式运行，例如先对网络流量进行分类，再进行攻击技术归因。分割共形预测虽能为每个阶段提供有限样本覆盖，但整个链路的轨迹级保证不能由各阶段保证简单组合。论文
Behavioral Skill Reconstruction: Reconstructing Hidden Functionality from LLM Agent Skills
该论文提出了“行为技能重建”（Behavioral Skill Reconstruction, BSR）问题，聚焦于闭源 LLM Agent 技能（skill）的功能泄露风险。此前研究主要关注提示注入攻击，试图直接披露技能中隐藏的指令、脚本
FBID: Adaptive Personalized Federated Learning for Robust Out-of-Distribution Attack Detection in IoT Networks
本文针对异构物联网环境中的入侵检测问题，提出了一种名为FBID（Federated Bandit Intrusion Detection）的自适应个性化联邦学习框架。现有基于个性化联邦学习（PFL）的入侵检测方法通常依赖客户端自行调整模型，
An Inline Control Architecture for Language Models in Intelligent Transportation Systems
本文针对智能交通系统（ITS）中车联万物（V2X）环境下大语言模型（LLM）应用的安全问题，提出了一种名为 Guarded-V2X 的内联语义护栏架构。随着 V2X 系统在路侧单元和边缘节点上越来越多地集成 LLM 用于消息摘要、操作员辅助
A Security-Oriented Lifecycle Model for Large Language Model Systems
本文提出了一种面向安全分析的大语言模型（LLM）系统生命周期模型。研究背景是：LLM 正以前所未有的规模被集成到关键基础设施和企业工作流中，但现有的生命周期框架主要面向运营效率设计，而非安全分析，导致数据来源验证、工件签名、智能体权限控制、
DiagChain: A Diagnostic Benchmark for Evaluating LLM Agents on Evidence-Grounded Attack Chain Reconstruction
本文提出 DiagChain，一个面向大语言模型（LLM）智能体的诊断性基准测试，用于评估其在证据支撑下的攻击链重建能力。攻击链重建是网络安全中的关键任务，要求智能体从异构遥测数据中检索并解释证据，推断出有序的攻击者行为。现有基准大多只评估
AI Forensics Across White-, Grey-, and Black-Box Access: A Process Model and Research Agenda for Post-Incident Investigation of AI Systems
该论文系统性地探讨了人工智能系统的取证调查问题。随着AI系统越来越多地参与决策和行动，事后调查其行为原因、系统组件及供应链责任成为重要挑战。当前AI取证研究分散，多聚焦于特定系统类型、工件或分析技术，缺乏统一框架。作者提出以调查者的访问权限
AgentAntibody: An Adaptive Immune System for Defending LLM Agents against Prompt Injection
本文针对大型语言模型（LLM）代理面临的提示注入（prompt injection）威胁，提出了一种基于自适应免疫原理的防御框架 AgentAntibody。研究背景是：现有防御方法将每个任务视为孤立问题，缺乏对先前遭遇的学习能力；而实际用
Beyond the QBER Threshold: A Temporal QBER Based Machine Learning Framework for Multi Attack Detection in BB84 QKD
本文针对传统 BB84 量子密钥分发（QKD）系统中固定 11% 量子误码率（QBER）阈值检测窃听方案的不足，提出了一种基于时间维度 QBER 的机器学习框架，用于多类型窃听攻击的检测与分类。传统方法仅依赖会话级平均 QBER，而隐蔽攻击