SoK: Secure Software-Based Multi-Domain Data Segregation
本文是面向系统安全的系统化知识综述（Systematization of Knowledge, SoK），聚焦软件化多域数据隔离（Multi-Domain Data Segregation, MDDS）在任务关键型语音通信系统（VCS）中的
#LLM
共收录 2152 条相关情报。
← 返回所有主题Your Agent Says Yes: Interpreting Adversarial Market Behavior Beyond Individual Transactions
本文研究了一个关键的安全解释缺口：传统金融安全控制通常以单笔交易为粒度进行审批，但真实的市场操纵行为可能分散在多个消息、智能体、资产和时间周期中，单笔交易的合法/非法判定无法覆盖这种跨维度的复杂行为。作者在一个由十个角色化语言模型智能体构成
Construction and Natural Language Querying of a Cybersecurity Knowledge Graph
本文针对网络安全漏洞信息分散于多个平台和数据库、难以形成统一结构化理解的问题，提出了一种结合网络安全知识图谱构建与自然语言查询的方法。现有知识图谱虽能有效组织漏洞数据，但查询通常需要掌握 Cypher 等图查询语言，限制了其可用性。作者从美
Benchmarking LLMs for Threat Level Determination
本文研究了大型语言模型（LLM）在网络威胁情报（CTI）运营任务中的可靠性，具体聚焦于“威胁等级判定”这一子任务。随着LLM的快速发展，其在安全运营中被视为潜在的自动化辅助工具，但其实际决策能力尚未得到充分验证。作者首先从公开的MISP O
Scanning the Harness: An Empirical Study of Supply-Chain Defects in AI Coding-Agent Configurations
该论文针对AI编码助手（如Claude Code、Cursor、GitHub Copilot、OpenAI Codex）的供应链安全缺陷进行了实证研究。这些工具通常通过开发者编写和共享的配置文件（指令文件、技能、钩子、MCP服务器声明、子代
Staying on the Attack Path: Structured State for Long-Horizon Automated Penetration Testing
本文针对基于大型语言模型（LLM）的智能体在长周期自动化渗透测试任务中面临的上下文遗忘和意图漂移问题，提出了一种名为Intentest的意图图引导的自动化渗透测试智能体。在长时间交互中，早期发现的关键事实和因果推理链容易丢失，导致智能体陷入
Robust Decentralized Personalized Federated Learning via Prediction-Constrained Neighborhood Collaboration
该论文提出了一种鲁棒的分散式个性化联邦学习方法 R-DPFL，旨在解决现有分散式联邦学习在面对拜占庭攻击时容易受到恶意客户端影响的问题。与传统的中心化联邦学习不同，分散式场景中每个客户端只与邻居交换模型更新，没有全局协调者，因此恶意邻居可能
The Oversight Gap: What LLM Safety Monitors Miss, and Why It Is Not Capability
这篇论文研究了LLM安全监控器在认证特定安全属性时存在的根本性局限。作者指出，一些被要求认证的属性（如跨租户非干扰、沙袋行为、评估意识）属于2-安全超属性，即只能通过两次执行来见证，因此单一执行轨迹在逻辑上无法判定它们。然而，作者没有停留在
TrojanWorld: Backdooring World-Model Agents via Imagination Steering
本文提出了一种针对基于世界模型的强化学习智能体的后门攻击框架 TrojanWorld。世界模型作为模型-based 强化学习智能体的预测核心，使智能体能够在执行动作前模拟未来动态并基于想象轨迹进行推理。由于其训练成本高昂，预训练世界模型常被
CIPHER: Benchmarking Cross-record Inference over Privacy-Hardened Evidence Records
CIPHER 是一个面向隐私脱敏证据记录上的跨记录推理基准测试。在金融、医疗和执法等真实场景中，推理往往需要同时结合结构化属性（如表格字段）与自由文本叙述中的非结构化证据，而隐私保护措施（如脱敏、替换）会进一步增加推理难度。现有数据集大多只
Lightweight Detection of Electromagnetic Signal Injection Attacks on Image Sensors
本文研究电磁信号注入攻击（ESIA）对图像传感器的威胁及其检测方法。ESIA 通过发射电磁干扰来操纵图像传感器的像素值，从而误导依赖视觉输入的人工智能模型，导致不安全决策。随着图像传感器在智能系统（如自动驾驶、监控、机器人）中的广泛部署，此
AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories
本论文提出了 AgentDrift，一个用于研究针对 LLM 代理的间接提示注入劫持轨迹的逐步标注基准。LLM 代理通过调用工具完成任务，而每次工具返回的观察结果都可能成为间接提示注入的入口。成功的注入在按顺序读取轨迹时呈现特殊形态：一段良
MOLE: Detecting Insider Threats in AI Agents
该论文提出了 MOLE（Monitoring for Insider Threats in AI Agents），一个用于评估防御方能否在 AI Agent 操作的高权限账户中检测内部威胁的开源基准。研究背景是：模型未对齐、提示注入或操作者
Exact Record Omission in Delta Attention: A Transport Criterion, Its Cost, and a Replay Certificate
本论文研究大型语言模型中精确删除用户数据记录的问题。在具有循环记忆或混合架构（如线性注意力模型）中，数据记录被折叠进模型状态，用户请求删除时，模型的状态必须与从未存储该记录的状态一致才算完全遗忘。独立编码的行可以轻松移除，但循环记忆中的记录
A Queryable Graph-Based Security Analysis Framework for O-RAN
该论文针对开放式无线接入网（O-RAN）的安全评估难题提出了一种基于图的可查询分析框架。O-RAN 通过模块化和互操作架构取代了传统供应商绑定的 RAN 系统，虽然促进了竞争与创新，但也引入了更高的复杂性和更大的攻击面。当前的安全评估方式主
Characterizing Contention-Induced Reliability Collapse in KV-Cache Timing Side Channels for Multi-Tenant LLM Serving
该论文研究多租户大语言模型（LLM）服务场景下，共享KV缓存（key-value cache）重用所引发的定时侧信道攻击在真实并发负载下的可靠性问题。尽管已有工作表明此类攻击可行，但在实际多租户竞争环境中其稳定性尚未被充分理解。作者在真实共
Skynet: Workflow-Level Anomaly Detection for Agentic AI via Semantic and Structural Modeling
本文提出 Skynet，一个面向 Agentic AI 的工作流级异常检测框架。Agentic AI 系统通过长期多步骤工作流执行复杂任务，涉及规划、工具调用和多智能体协作。任务失败往往起源于单个步骤（如注入提示或错误计划），并通过下游依赖
AURA-Eval: Evaluation Framework for Acting Under Risk Awareness in LLM Agent Trajectories
本文提出 AURA-Eval，一个用于评估大语言模型智能体在工具调用轨迹中“风险感知下的行动”能力的框架。现有安全评估往往将行为简化为单一分数，难以区分模型是否真正识别风险、是否在行动前有预检测能力，以及在存在安全解决方案时能否安全完成任务
A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
本文针对隐私保护大语言模型（LLM）推理中的嵌入到嵌入混淆（Embedding-to-Embedding Obfuscation, E2EO）机制提出了一种新的攻击方法——代理流形对齐（Proxy Manifold Alignment, P
MechAudit-40: White-Box Auditing across 40 LLM Attack Mechanisms
LLM 攻击涵盖提示优化、多轮上下文操纵、检索投毒和模型后门等多种机制，但现有白盒防御通常仅在孤立的攻击家族上评估，因此异构攻击是否会在内部表示中留下可泛化的位移信号仍属未知。本文提出 MechAudit-40，一个系统性的评估框架，在 5