Model Poisoning Against Federated Model Adaptation with Chain of Bit-Flips
该论文研究联邦学习（FL）中的模型投毒攻击。传统FL后门攻击主要依赖算法层面操纵训练数据，但本文引入一类新的攻击：利用硬件故障（如Rowhammer）在本地模型参数中注入比特翻转，从而在联邦学习期间植入后门。攻击过程分为离线阶段：攻击者从预
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题Targeting World Models to Compromise Robot Learning Pipelines
该论文研究了世界模型（world models）在机器人学习管道中的安全性问题。世界模型作为一种高效的数据生成和仿真工具，正被越来越多地集成到机器人训练流程中，但本文证明了世界模型引入了一种隐蔽且有效的数据投毒攻击入口。与传统的直接向训练数
Brain-Prompt Injection: A Route-Safety Audit for BCI-LLM Agents
本文针对脑机接口（BCI）到大型语言模型（LLM）智能体的管道提出了一个新型攻击面：脑提示注入（brain-prompt injection）。该管道将解码的神经活动作为工具使用智能体的授权通道，但攻击者可通过信号侧扰动、上下文仅注入和自适
Trustworthy Smart Fabs via Professional Proxies: Scaling Safe and Sustainable by Design (SSbD) through Industrial Data Spaces
该论文针对2026年欧盟安全与可持续设计（SSbD）框架、企业可持续发展尽职调查指令（CSDDD）和碳边境调节机制（CBAM）等法规给先进半导体制造工厂（智能工厂）带来的治理瓶颈，提出了一种零信任的社会技术编排框架。该框架在可信工业数据空间
Pretrained, Frozen, Still Leaking: Auditing Cross-Encoder Attribute Transfer in EEG Foundation Models
该论文研究了EEG（脑电图）基础模型在发布时面临的属性泄露风险。以往，对这类模型的审计通常是逐个端点进行的，例如原始波形重建、成员推断、身份链接或对下游头部进行差分隐私随机梯度下降（DP-SGD）。然而，作者发现这种单端点审计可能遗漏更隐蔽
Steganography Without Modification: Hidden Communication via LLM Seeds
本文揭示了一个存在于当前主流大语言模型（LLM）推理栈中的隐写通道，该通道无需修改模型权重、采样代码或输出分布即可实现秘密通信。其核心原理是利用确定性解码过程中的伪随机数生成器（PRNG）在逆变换采样时产生的种子依赖性：PRNG根据种子生成
Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
本文系统性地研究了多模态大语言模型（MLLMs）中的隐私风险。与文本大语言模型（LLMs）不同，MLLMs同时处理文本和图像，图像中嵌入的敏感信息可能被模型提取并泄露。作者首先构建了MM-Privacy综合数据集，覆盖多种多模态任务和场景，
Context-Fractured Decomposition Attacks on Tool-Using LLM Agents: Exploiting Artifact Provenance Gaps
该论文针对使用工具的LLM代理（Tool-Using LLM Agents）提出了一种新型的多步越狱攻击方法——上下文碎片化解构攻击（Context-Fractured Decomposition, CFD）。现有的大多数越狱攻击和防御（如
Hardening Agent Benchmarks with Adversarial Hacker-Fixer Loops
该论文研究了终端智能体基准测试（如KernelBench、Terminal Bench）中奖励黑客攻击的问题。作者审计了5个终端智能体基准测试的1968个任务，发现其中323个（16%）可以被前沿模型仅通过任务描述就成功攻破，导致排行榜排名
Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing Human
本文研究LLM代理安全中的人类监督机制。传统安全模式依赖人在循环中的审批门：高风险操作暂停并等待人工审核。但论文指出，这一模式基于两个错误假设：存在关于“风险”的客观真实标签，以及人类评审是完美无缺、随时可用的。作者通过125个人工标注的对
Cheap Reward Hacking Detection
该研究提出一种低成本、高效的reward hacking检测方法，针对强化学习（特别是基于人类反馈的强化学习，RLHF）中奖励模型被操纵的问题。核心方法：训练一个小型Transformer编码器，将Terminal-Wrench环境中的轨迹
GitInject: Real-World Prompt Injection Attacks in AI-Powered CI/CD Pipelines
本文介绍了 GitInject，一个用于评估现实世界中 CI/CD 流水线（特别是 GitHub Actions）中 AI 代理提示注入漏洞的开源框架。随着 AI 代理越来越多地被集成到 CI/CD 流水线中，用于自动审查拉取请求、分类问题
RAILS: Verification-Native Clearing For Agentic Commerce
本文提出了一种面向自主智能体（agent）商业交易的结算完整性协议 RAILS（Real-Time Agent Integrity & Ledger Settlement）。当前，智能体可以自主谈判、购买、部署代码和转账，但缺乏一个中立机制
Data Agents Under Attack: Vulnerabilities in LLM-Driven Analytical Systems
本文对LLM驱动的数据代理系统（Data Agents）进行了系统的安全研究。数据代理将LLM推理与关系数据访问、可执行分析工具和多步工作流编排相结合，日益成为企业分析的核心，但也引入了新的安全漏洞组合。作者首先构建了一个分层漏洞框架，在解
Sample-Efficient LLM-Based Detection of Malicious Web Server Logs with Forensically Explainable Reasoning
该论文针对 Web 服务器日志的取证分析需求，提出了一种名为 CEF-Log 的上下文增强少样本思维链提示策略，用于大语言模型（LLM）。传统机器学习方法在日志检测中常被视为“黑箱”，难以提供符合法律要求的人类可读解释。CEF-Log 通过
AI Code Sandboxes: A Comparative Security Study. Part 1 of 2 -- Engine-Level Properties (Attack Surface, Leakage, Stackability, CVE History, Patch Cadence, Fuzzing)
本文系统性地从六个引擎级安全属性评估了五种AI代码沙箱产品隔离访客代码与宿主内核的能力。六个维度包括：1.1 宿主攻击面、1.2 信息泄露、1.3 纵深防御可堆叠性、1.4 公开CVE历史、1.5 补丁节奏、1.6 上游模糊测试状态。研究强
Hiding in Plain Floats: Steganographic Carriers for Indirect Prompt and Content Injection
本文研究了一种针对大语言模型的新型间接提示/内容注入攻击方式。传统的基于文本的防御假设恶意信号在文本视图中可见，但作者发现当恶意负载以结构化浮点参数形式传输，并仅在碎片化遥测中重建时，可以绕过文本检测器。具体来说，攻击者将恶意指令编码为浮点
An AI Security Agent for University ACMIS: Multi-Vector Threat Detection and Automated Response
该论文针对大学学术管理信息系统（ACMIS）面临的多维安全威胁（包括暴力登录、支付欺诈、权限提升、内部数据窃取和学术诚信违规）提出了一种基于AI的安全代理方案。传统基于规则的系统难以区分恶意行为与正常操作，因此作者设计了一个结合监督式异常检
Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR
本文研究商业端点检测与响应（EDR）产品在自主 AI 组件替代人工规则配置的背景下，如何评估自主防御代理对商业 EDR 的加固效果。作者指出，现有评估多基于开源 EDR 或模拟环境，忽略了商业 EDR 作为黑盒自主系统的复杂性——其内部 A
VATS: Exploiting Implicit Authority in Error-Path Injection via Systematic Mutation
本文研究了Model Context Protocol (MCP) 标准化自主智能体工具调用时引入的一个被忽视的攻击面：错误处理循环。作者假设工具的错误消息具有隐含权威，会触发智能体的纠正性推理模式，从而绕过标准安全启发式。为此，他们提出了