RecurGuard: Runtime Monitoring for Reasoning-Token Consumption Attacks
该论文提出了一种名为 RecurGuard 的运行时监控机制，用于检测针对推理能力大语言模型的“推理链消耗攻击”（Reasoning-chain consumption attacks）。此类攻击通过注入无关的“诱饵”任务，诱导模型将生成预
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题POISE: Position-Aware Undetectable Skill Injection on LLM Agents
该论文研究了针对大语言模型（LLM）代理的技能注入攻击。代理技能是一种轻量级扩展机制，但其开放格式易受技能中毒攻击。现有攻击面临可靠性与隐蔽性之间的权衡：YAML头部注入虽然可靠加载但易被检测；而将恶意命令嵌入技能文本的body注入则因命令
Model Multiplicity for Adversarial Detection in Small Language Model Training on Edge Devices
本文针对边缘设备上小语言模型（SLM）分布式微调面临的安全挑战，提出了一种基于模型多样性的系统级防御机制。研究背景是，随着边缘机器学习的发展，语言模型在移动和物联网设备上的分布式部署虽能保护隐私并实现实时响应，但不可信或异构的边缘节点可能注
Beyond Pass/Fail: Using Process Mining to Understand How LLMs Resist (and Fail) Red Team Attacks
这篇论文提出了一种新的方法来评估大型语言模型（LLM）在面对红队攻击时的鲁棒性。传统的评估方法通常只使用攻击成功率（ASR）这一单一指标，将多次攻击简化为一个二元结果，忽略了模型在攻击过程中如何逐步抵抗或屈服的结构化行为。作者创新性地将过程
SHIELD-IDS: Structurally Heterogeneous Ensemble with Integrated Layered Defense for Intrusion Detection Systems
本文针对基于机器学习的入侵检测系统（IDS）面临的对抗性攻击威胁，提出了一种名为SHIELD-IDS的防御框架。现有研究如IDS-Anta通过Z-score归一化、奇异值分解（SVD）和多臂赌博机（MAB）选择分类器来部分缓解攻击，但其分类
From Privacy to Workflow Integrity: Communication-Graph Metadata in Autonomous Agent Interoperability
本文聚焦于智能体互操作协议（如A2A和MCP）中通信图元数据带来的新威胁。当前协议依赖HTTP(S)传输，虽通过端到端加密保护消息内容，但通信图（哪个智能体何时联系谁、频率如何）完全暴露。在智能体系统中，通信图比传统隐私框架所指出的更危险：
MLingualFC: Evaluating Jailbreak Vulnerabilities in Multilingual Vision-Language Models
该论文提出了 MLingualFC，一个多语言多模态基准测试基准，旨在评估视觉语言模型（VLM）在跨语言场景下通过结构化流程图进行越狱攻击的脆弱性。尽管已有研究表明流程图等结构化视觉提示可以有效地越狱 VLM，但现有研究大多局限于英语环境。
TRACE: Trajectory Reasoning through Adaptive Cross-Step Evidence Aggregation for LLM Agents
该论文提出了TRACE框架，用于检测自主LLM agent在长期任务轨迹中隐藏的恶意行为。问题背景是：标准轨迹级监控难以检测agent通过一系列单独无害但序列组合后具有恶意的行为。现有方法要么一次性评估整个轨迹，要么将轨迹分割成独立窗口评分
Hearing the Unspoken: Language Model Priors for Acoustic Adversarial Attacks
该论文研究针对实时自动语音识别（ASR）系统的对抗性攻击。实时ASR系统必须在严格的时间约束下处理声学输入，转录决策基于不完整信息，这种因果约束成为攻击者的信息瓶颈，显著限制了攻击性能。作者提出一种名为“Semantic Gambit”的新
What Your Posts Reveal: A Benchmark and Agentic Framework for User-Level Privacy Leakage on Social Media
该论文聚焦于社交媒体平台上用户级隐私泄露问题。现有研究缺乏统一的基准来评估多模态（文本、图像、元数据）隐私泄露，且衡量指标多为二元准确率，无法捕捉暴露严重程度。为此，作者基于Rednote和Instagram的私有参考语料库提炼泄露模式，构
MalTree: Tracing Malware Evolution from Embeddings at Scale
恶意软件检测目前仍然主要依赖于被动反应：机器学习模型在已知样本上训练，但随着威胁演化，模型性能会下降。理解恶意软件家族之间的进化关系可以促进主动防御，但传统的逆向工程可能需要数月甚至数年才能揭示这种谱系关系。本文提出 MalTree 框架，
Will the Agent Recuse Itself? Measuring LLM-Agent Compliance with In-Band Access-Deny Signals
本文研究的是自主LLM代理（如基于大语言模型的自动化运维代理）在持有真实凭证并操作基础设施时，如何能够自愿遵守资源访问限制的问题。当前访问控制要么允许代理进入（因为它持有有效凭证），要么彻底拒绝（与任何其他客户端无异），缺乏一种让代理感知到
AttackPathGNN: Cross-function vulnerability detection in smart contracts using state interference graphs and conjunction pooling
现有的基于学习的Solidity智能合约漏洞检测器通常将检测简化为单函数内的语法模式匹配，但许多重大利用（如The DAO、Cream Finance）并不存在于单个函数中，而是存在于函数间的关系以及使攻击可行的条件组合之中。为此，本文提出
GenTI: Benchmarking LLMs for Autonomous IDPS Rule Generation for Unseen Attacks
本文提出 GenTI（Generative Thread Intelligence）框架，旨在解决基于规则的入侵检测与防御系统（IDPS）在面对未知攻击时适应性不足的问题。传统的 IDPS 依赖人工编写的签名规则，难以应对新兴和零日威胁，且
TinyML-Driven Cybersecurity for Autonomous Spacecraft: Latency-Accuracy Analysis for SPARTA RF and Cyber Threat Detection
本文针对自主航天器在轨运行时面临的网络射频（RF）威胁，提出采用TinyML（微型机器学习）技术实现轻量级、低延迟的机载检测。研究以SPARTA攻击模型为基础，覆盖了上行链路干扰、Fake-NR欺骗、有效载荷篡改、地面段入侵以及未授权命令注
An Improved CNN-LSTM Based Intrusion Detection System for IoT Networks
随着物联网设备的快速普及，网络安全问题日益严峻，入侵检测系统成为保护网络环境的关键。本文提出了一种基于改进的CNN-LSTM（卷积神经网络-长短期记忆网络）的入侵检测模型，用于物联网网络中的攻击检测。该模型结合了多分类、数据集集成和时间特征
Explainable AI-Driven Cyber Risk Analytics and Model Reliability Assessment for Intelligent Governance of U.S. Critical Infrastructure: An XGBoost and SHAP-Based Intrusion Detection Framework
该论文针对美国关键基础设施领域日益增长的网络安全威胁，提出了一种基于可解释人工智能（XAI）的网络风险分析与模型可靠性评估框架。研究背景指出，随着能源、医疗、交通、金融和通信等关键基础设施广泛采用智能数字技术，其暴露于高级网络攻击（如DDo
Cognitive Threat Intelligence and Explainable Federated Security Analytics for distributed Infrastructure Systems
本文针对分布式基础设施系统（包括云计算、物联网和边缘架构）面临的日益扩大的攻击面与复杂威胁，提出了一种认知威胁情报与可解释联邦安全分析框架。传统集中式入侵检测方法在可扩展性、数据隐私、通信开销以及AI决策透明性方面存在局限。该框架融合联邦学
Beyond Waveform Robustness: Robust Feature-Vocoder Adversarial Attacks on Automatic Speech Recognition
本文针对自动语音识别（ASR）系统的对抗鲁棒性展开研究。现有对抗攻击直接在波形域添加噪声，存在两个主要局限：一是对黑盒ASR系统的迁移性差，二是易被专门防御波形扰动的机制缓解。为此，作者提出了一种基于代理模型的Clean-Reference
SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks
随着大语言模型（LLM）的广泛部署，通过越狱攻击识别其脆弱性变得至关重要。基于优化的攻击（如Greedy Coordinate Gradient, GCG）通常将对抗性token插入到提示的末尾，但固定插入点可能不是最有效的。本文实证研究了