Hardware Keystores for AI Agent Signing Workflows: A Zero-Trust MCP Enforcement Architecture
该论文针对 AI 智能体在执行密码学操作（如 Git 提交签名、API 调用认证、证书签发）时私钥存储不安全的问题展开研究。当前主流框架常将私钥存放在软件可访问的位置，如明文文件、环境变量或容器内存中，任何具备足够读取权限的进程都能提取原始
2026-08-07 归档
今日共收录 1483 条安全情报，包含 647 个 CVE，430 篇安全通告，以及 120 篇研究论文。
← 返回归档列表MMAligner: Safeguarding Multimodal Large Language Models through Representation Calibration
多模态大语言模型（MLLM）在处理不安全文本提示时往往能够拒绝，但面对语义等价的多模态输入（如恶意图像配文本）却可能生成有害响应。现有防御手段要么依赖外部护栏，增加推理开销且无法修复模型内在缺陷；要么进行安全微调，将对齐视为黑盒优化，容易牺
Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents
本文研究模块化 LLM 安全代理的轨迹级风险认证问题。此类代理通常以分阶段流水线方式工作，例如先对网络流量进行分类，再进行攻击技术归因。分裂共形预测可以为每个阶段提供有限样本覆盖保证，但部署时需要整个链路的轨迹级风险保证。由于各阶段独立训练
Breadcrumbing Search Agents
本文研究基于大语言模型（LLM）的搜索代理面临的安全威胁，特别是通过操纵搜索结果来实施提示注入和目的劫持的攻击。现有防御研究主要关注静态网页的单一注入，但现代搜索代理会进行多轮查询并交叉验证多源信息，导致单点注入往往被稀释或忽略。作者发现，
Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)
该论文针对基于深度强化学习（DRL）的自主网络防御系统鲁棒性研究不足的问题，提出了一种名为 Trident 的智能体化大语言模型（LLM）红队框架。当前 DRL 防御模型几乎只用静态、启发式红队进行评测，无法反映真实自适应攻击者的威胁；同时
RustGo: Fairly Directed Greybox Fuzzing for Enforcing Rust Memory Safety
Rust 语言凭借所有权等严格安全策略提供内存安全保证，但 unsafe Rust 代码块会绕过这些策略，仍可能引入内存漏洞。尽管 unsafe 代码通常只占整个代码库的一小部分（例如约 10%），现有模糊测试工具却往往对整个程序进行测试，
ChainClaw: A Layered Agent Framework for Reliable On-Chain Execution
本文提出 ChainClaw，一个面向区块链环境的智能体（Agent）框架，旨在解决通用大语言模型（LLM）智能体在链上执行任务时面临的三大核心缺陷：反应性（Reactivity）、不可逆性（Irreversibility）和可观测性（Ob
DreamGuard: Efficient Runtime Guardrail for LLM Agents via Risk-Aware World Model
大型语言模型（LLM）代理在执行任务时经常需要调用外部工具并交互真实世界系统，然而不安全的行为可能对外部状态、用户数据和下游服务造成不可逆的后果。现有的运行时防护措施（guardrails）往往在行动执行前检查其表面安全性，但它们本质上是反
Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks
本文研究了大模型定制化平台中指令后门攻击（Instruction Backdoor Attacks）的自动化红队测试方法。随着LLM定制化平台的普及，用户可以通过在系统提示词中嵌入指令来构建面向特定编程任务（如代码补全、生成、修复等）的定制
Behavioral Residualization for Unsupervised Intrusion Detection in Automotive CAN Networks
现代汽车广泛采用控制器局域网（CAN）总线，其设计以低成本和高实时性为核心，但缺乏消息认证与加密。因此，攻击者若获得物理接入或远程访问能力，便可向总线注入任意报文，使入侵检测成为纵深防御中的关键机制。已发表的多数CAN入侵检测系统依赖基于“
Robust Context-Aware Detection of Malicious Instructions in Text
本文针对现代大语言模型（LLM）在作为智能体自主执行复杂任务时面临的间接提示注入（Indirect Prompt Injection, IPI）攻击威胁，提出了一种健壮的上下文感知恶意指令检测方法。研究指出，缓解此类攻击的基础任务是将给定文
Agent Against Agent: An Agentic System for Automatic Prompt Injection Red Teaming
本文针对大型语言模型智能体（LLM agents）面临的提示注入（prompt injection）安全风险，提出了一种名为PIMiner的自主智能体系统，用于自动红队测试。现有基于强化学习的红队攻击模型往往在迁移到新目标LLM时泛化能力较
Hardware Design and Security in the Era of Chiplets and LLMs
该论文针对半导体行业正在经历的双重变革——向异构2.5D chiplet系统迁移以及将大型语言模型（LLM）集成到电子设计自动化（EDA）流程中——进行了统一的安全分析。作者指出，虽然这些范式在良率、模块化、设计生产力等方面带来了前所未有的
Gradient Immunity: Null-Space Resistance to Malicious Fine-Tuning
该论文研究开放权重大语言模型在发布后被下游恶意微调（malicious fine-tuning）所破坏的问题。现有防御手段大多面向“微调即服务”（FTaaS）范式，或依赖下游用户遵循额外安全协议，并未直接覆盖本文研究的场景：即模型提供方发布
Private Direct Preference Optimization for LLM Alignment
直接偏好优化（DPO）已成为利用人类偏好数据对齐大语言模型（LLM）的标准方法。每个DPO样本包含一个提示词和一对候选回复，而人类标注者或用户给出的相对偏好往往反映主观判断，可能泄露敏感属性（如政治倾向、健康状态等）。现有隐私保护手段通常采
LLM-Assisted Detection and Repair of Hardware Security Vulnerabilities in Verilog Designs
该论文针对硬件设计（Verilog）中的安全漏洞检测问题，提出了一种利用大语言模型（LLM）自动识别硬件常见弱点枚举（CWE）的方法。硬件设计如同软件一样存在缺陷，可能引入安全漏洞并导致恶意利用；但与软件漏洞不同，硬件缺陷在流片后永久固化于
"Allow" to Achieve, Over-Privileged Inadvertently: The Unintended Cost of Task-Completion-Driven Pop-up Decisions in Mobile GUI Agents
该论文系统研究了移动GUI代理在任务执行过程中面对系统权限弹窗时的授权行为，重点关注其是否能够仅授予任务所必需的权限，作者将此能力定义为“权限素养”。研究构建了一个基于任务相关性与隐私风险的四级权限框架，并通过三名GUI代理安全领域专家验证
Towards a Risk Assessment of Malicious Skill Files in Coding Agents
本文针对自主编码智能体（coding agents）在进入企业软件工作流后所引入的新型安全风险进行了系统性研究。这类智能体通常被授予对连接系统的委派权限，其核心架构依赖“技能接口”（agent skills interface），即以文件夹
Checked-In Secret Detection: Strings Are All You Need
该论文针对源代码中硬编码密钥（hardcoded secrets）这一严重安全漏洞展开研究。现有基于正则表达式的检测方法因密钥往往缺乏可识别模式而存在精度和召回率低下的根本性局限。近期研究尝试利用上下文感知检测，通过分析候选字符串周围的代码
Large Language Models and Social Media Information Integrity: Opportunities, Challenges, and Research Directions
本文是一篇关于大语言模型（LLM）与社交媒体信息完整性关系的系统性综述，发表于2024年，作者团队来自多所高校。研究背景是：LLM在社交媒体平台上的广泛应用既可能加剧虚假信息、深度伪造、社交机器人等威胁，也为检测和防御提供了新工具。核心问题