Brain-Prompt Injection: A Route-Safety Audit for BCI-LLM Agents
本文研究了脑机接口（BCI）与大型语言模型（LLM）代理结合时出现的新型安全威胁——'脑提示注入'（brain-prompt injection）。随着BCI解码的神经活动被直接用作工具使用代理的授权通道，攻击者可能通过信号侧扰动、仅上下文
2026-06-09 归档
今日共收录 1126 条安全情报，包含 321 个 CVE，413 篇安全通告，以及 105 篇研究论文。
← 返回归档列表MalSkillBench: A Runtime-Verified Benchmark of Malicious Agent Skills
AI 编码代理（如 Claude Code、Gemini CLI）通过第三方技能包扩展功能，这些技能包同时包含自然语言指令、可执行脚本和工具权限，构成了代码与指令混合的供应链依赖。现有检测工具从未在同时涵盖代码和指令的恶意技能 ground
FuseFSS: Efficient Secure LLM Inference with Function Secret Sharing
本文提出 FuseFSS，一个用于高效两服务器安全大语言模型推理的编译器。现有基于函数秘密共享（FSS）的 GPU 系统虽然能高效处理线性层，但定点非线性操作（如激活函数、归一化）和辅助操作（如比较、环绕校正）仍因每个运算符需要定制协议而成
Targeting World Models to Compromise Robot Learning Pipelines
本文研究世界模型在机器人学习流水线中的安全隐患。世界模型作为一种高效的数据增强工具，能够生成合成训练数据或模拟真实环境，正被越来越多地集成到机器人学习管线中。然而，作者发现世界模型引入了一个独特且隐蔽的数据投毒入口，攻击者可以通过在看似安全
Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs
本论文研究大型语言模型（LLM）中的隐写术检测问题。攻击者可以通过微调LLM将秘密信息（prompt中的秘密）嵌入到模型生成的流畅、看似无害的输出中，形成隐写外泄风险。传统的输出级检测难以发现这种隐写。近期研究提出使用线性探针（ridge回
Benchmarking Empirical Privacy Protection for Adaptations of Large Language Models
本文研究了在差分隐私（DP）环境下，大语言模型（LLM）自适应过程中的实际隐私保护效果。尽管DP在理论上提供了隐私保障，但在实际应用中，由于LLM预训练数据与自适应数据之间存在重叠和相互依赖，DP的有效性可能受到影响。作者通过使用鲁棒成员推
The Injection Paradox: Brand-Level Suppression in Safety-Trained LLM Recommendations via RAG Context Injection
本文发现并验证了基于RAG的LLM推荐系统中一种反直觉的安全训练失败模式——“注入悖论”。在安全训练的Claude模型中，嵌入在检索文档中的提示注入不仅未能提升攻击者期望的品牌曝光，反而导致该品牌在所有推荐结果中被抑制，甚至比未注入时的基准
PrivCode++: Latent-Conditioned Differentially Private Code Generation for Comprehensive Guarantees
该论文关注大语言模型在指令-代码微调过程中可能记忆并泄露敏感训练数据的问题。现有差分隐私（DP）代码生成方法主要保护代码片段，但假设提示（prompt）是公开的，这不符合现实场景中提示也可能包含敏感信息的情况。当提示在微调或生成阶段不能显式
Context-Fractured Decomposition Attacks on Tool-Using LLM Agents: Exploiting Artifact Provenance Gaps
本文针对使用工具的大型语言模型（LLM）代理提出了一种新型多步越狱攻击方法——上下文碎片分解（Context-Fractured Decomposition, CFD）。研究指出，现有的大多数越狱攻击和防御（如Crescendo、Tree
Cheap Reward Hacking Detection
本文针对强化学习中的奖励作弊（reward hacking）检测问题，提出了一种低成本、高效的检测方法。奖励作弊是指智能体利用环境漏洞获得高奖励但未真正完成任务的行为。传统方法如使用大型语言模型（LLM）作为裁判进行检测，虽然准确但计算成本
Data Agents Under Attack: Vulnerabilities in LLM-Driven Analytical Systems
随着大型语言模型（LLM）在企业数据分析中的广泛应用，一种新型系统——数据代理（data agents）应运而生。数据代理将LLM驱动的推理与关系数据访问、可执行分析工具以及多步骤工作流编排相结合，成为企业分析基础设施的核心。然而，这种集成
Sample-Efficient LLM-Based Detection of Malicious Web Server Logs with Forensically Explainable Reasoning
本文提出了一种名为 CEF-Log 的上下文增强少样本链式思维提示策略，用于基于大语言模型（LLM）的恶意 Web 服务器日志检测。研究背景是网络取证分析需要同时具备高准确性和满足法律要求的人类可读解释，而传统机器学习方法存在“黑箱”问题。
Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR
本文研究商业端点检测与响应（EDR）产品在自主 AI 组件替代人工规则配置的背景下，如何评估自主防御代理对商业 EDR 的加固效果。作者指出，现有评估多基于开源 EDR 或模拟环境，忽略了商业 EDR 作为黑盒自主系统的复杂性——其内部 A
RecurGuard: Runtime Monitoring for Reasoning-Token Consumption Attacks
该论文提出了一种名为 RecurGuard 的运行时监控机制，用于检测针对推理能力大语言模型的“推理链消耗攻击”（Reasoning-chain consumption attacks）。此类攻击通过注入无关的“诱饵”任务，诱导模型将生成预
POISE: Position-Aware Undetectable Skill Injection on LLM Agents
该论文研究了针对大语言模型（LLM）代理的技能注入攻击。代理技能是一种轻量级扩展机制，但其开放格式易受技能中毒攻击。现有攻击面临可靠性与隐蔽性之间的权衡：YAML头部注入虽然可靠加载但易被检测；而将恶意命令嵌入技能文本的body注入则因命令
SGTO-MAS: Secure Gorilla Troops Optimization for Multi-Agent LLM Systems
该论文针对多智能体大语言模型（LLM）系统中的协调问题，提出了一种安全感知的自适应智能体选择方法。现有方法多依赖启发式或静态策略，难以平衡性能、安全性和计算成本。作者将多智能体协调形式化为一个受约束的优化问题，并整合了信任建模、风险感知评估
DP4SQL: Differentially Private SQL with Flexible Privacy Policies
该论文提出 DP4SQL，一个支持灵活隐私策略的差分隐私 SQL 系统。现有差分隐私 SQL 系统仅支持固定的隐私策略，例如所有表都必须保护记录存在性或内容，无法处理混合隐私需求（如部分公开列、不同字段不同保护级别）。DP4SQL 允许数据
Beyond Pass/Fail: Using Process Mining to Understand How LLMs Resist (and Fail) Red Team Attacks
这篇论文提出了一种新的方法来评估大型语言模型（LLM）在面对红队攻击时的鲁棒性。传统的评估方法通常只使用攻击成功率（ASR）这一单一指标，将多次攻击简化为一个二元结果，忽略了模型在攻击过程中如何逐步抵抗或屈服的结构化行为。作者创新性地将过程
On the Shoulders of Giants: Empowering Automated Smart Contract Auditing via the GiAnt Corpus
该论文提出了 GiANT 自动化框架，旨在解决智能合约审计数据集构建中的人工可扩展性瓶颈以及数据粒度和多样性不足的问题。GiANT 采用分治策略结合思维链技术，从 Code4rena 平台上的真实审计报告中提取结构化漏洞信息，并通过 LLM
TRACE: Trajectory Reasoning through Adaptive Cross-Step Evidence Aggregation for LLM Agents
该论文提出了TRACE框架，用于检测自主LLM agent在长期任务轨迹中隐藏的恶意行为。问题背景是：标准轨迹级监控难以检测agent通过一系列单独无害但序列组合后具有恶意的行为。现有方法要么一次性评估整个轨迹，要么将轨迹分割成独立窗口评分