共收录 1665 条相关情报。
← 返回所有主题该论文针对电子健康记录（EHR）互操作性中的安全边界问题，提出了一套数学与工程架构。作者指出，传统系统、生成模型、术语服务、身份系统及人工审核者各自暴露丰富内部状态，而实际业务交换需要一种窄化的共享接口，以承载类型化声明、有限不确定性、来源
流式大语言模型（LLM）输出在逐 token 释放时面临审核时机困境：若等待完整输出再审核，敏感内容已经到达用户；若对每个前缀反复进行语义分类，则计算开销大且结果不稳定。本文提出一种确定性的配对完成防护栏（pair-completion g
本文提出了一种基于生成流网络（GFlowNets）的自动化红队测试方法，用于发现大语言模型（LLM）的安全漏洞。研究背景是：随着LLM在各行各业被广泛部署，其固有的安全隐患日益突出，而传统红队测试多依赖人工专家或固定的攻击数据集，前者耗时费
本文提出 MarkNull，一种模型无关的 AI 生成图像水印去除攻击，通过在流形上的潜在操作实现。现有攻击要么只对特定生成模型有效，要么导致严重视觉退化。作者观察到水印图像在生成潜在表示与嵌入初始噪声之间存在统计依赖，提出噪声-潜在对齐分
本文揭示了大型语言模型（LLM）提供商在客户端保存加密推理轨迹所引入的严重安全漏洞。许多主流提供商（如 Anthropic、OpenAI、Google）为避免泄露模型内部推理过程（即思维链），通常将推理步骤以加密块形式返回给客户端，并要求客
本文针对基于LLM的智能体系统中的技能（skill）攻击面展开研究。作者首先对现有技能扫描器进行实证分析，发现当前防御机制主要针对单个技能进行安全检查，忽略了对跨技能组合（cross-skill composition）风险的评估，从而留下
本文针对大语言模型（LLM）内部安全评分机制的有效性提出质疑，指出当前广泛使用的“有害意图”评分存在测量目标错位问题。具体而言，内部安全分数在文本生成之前评估提示词，其验证方式通常基于能否区分有害与良性提示，但这种分离被错误地解读为能够拦截
本论文针对大型推理模型（LRMs）在复杂任务上表现优异但易受有害提示诱导而输出不安全内容的问题，提出了一种名为 AdvSafe 的双对抗安全对齐框架。现有对齐方法通常依赖直接拒绝或安全推理，但往往局限于提示模式而非内在攻击机制，导致难以泛化
本文提出的 RangeFactory 是一个面向多跳网络靶场（cyber range）的自动化编排框架，核心目标是解决现有靶场构建无法自动将大量孤立漏洞环境组合为端到端验证的多跳攻击链的问题。现实中的网络攻击通常需要跨越多个主机和网段持续推
事件响应规划（Incident Response Planning）是网络攻击后恢复受损系统的关键环节。传统上依赖专家编写的剧本（playbook），但这些静态工作流难以适应不断变化的事件状态、恢复目标和执行反馈。近年来，基于大语言模型（L
本文提出并构建了 ActBench，一个面向人机协作智能体（cowork agents）行为安全性的自进化基准测试。与以往仅关注模型最终回答安全性的评估不同，ActBench 从执行轨迹（execution trajectories）层面评
本文研究多租户大语言模型（LLM）推理场景中 KV 缓存引发的时序侧信道泄露问题。KV 缓存是现代 LLM 推理的关键吞吐优化手段，通过跨请求复用前缀来加速生成；但在多租户部署中，该缓存被多个租户共享，攻击者可以利用缓存命中延迟差异，重建其
本文提出 SAGE-Fin，一个面向金融场景智能体（agent）的运行时治理框架，核心论点是“上下文不等于授权”。作者指出，金融智能体在对话或任务执行中可能将正确的上下文错误地转化为未经授权的实际动作，例如做出客户承诺、执行交易或部署策略。
本文针对人脸识别系统中两个常见但通常被分开研究的失败模式：欺骗攻击（攻击者使用授权用户的照片或视频冒充）和伪装（合法用户因配饰、胡须、光照或姿态变化导致外观与注册模板不匹配而被拒绝）。作者提出并比较了五种结合特征提取与分类的流水线，在统一框
本文提出 SkillsMetric——一个面向 LLM Agent 技能包（Agent Skills）的静态分析安全评估框架。技能包是以结构化指令和脚本形式扩展大模型智能体能力的新兴载体，其安全属性尚未被充分研究。SkillsMetric
该论文针对当前 Agent Skills 标准下可复用性问题进行了大规模实证研究。Agent Skills 通常以 SKILL.md 文件形式存在，将指令与辅助资源结合，使大型语言模型（LLM）代理能够在单次对话之外复用流程。然而，许多公开
本文提出了 ProxyDrift 框架，用于在大型语言模型（LLM）应用的大规模部署中，在不接触原始用户数据的前提下进行数据漂移检测与评估集恢复。核心问题在于：隐私约束使得无法直接检查用户交互，从而难以获得代表性评估数据集或跟踪生产流量的持
大语言模型（LLM）作为高价值资产，常面临通过重新部署、微调、量化或进一步对齐而衍生的窃取风险。由于部署后的LLM通常仅通过黑盒查询API对外暴露，所有权验证往往依赖于文本响应的比对。然而，黑盒环境下的开放式生成具有高度的表面形式可变性，重
该论文借鉴虚构作品《星球大战》中的“第66号令”情节，提出了一种针对使用工具的LLM代理系统的组合式威胁分析框架。作者指出，在真实系统中，灾难性后果往往并非源于单一强大指令，而是由多个看似无害的组件组合触发：一个被部署的工件或共享内存中潜伏
检索增强生成（RAG）技术通过从向量知识库中检索语义相似的历史流量，使大语言模型能够对网络流进行分类并生成可读的入侵事件报告。然而，检索层的引入同时带来了知识投毒和提示注入等安全漏洞。本文提出 RAG-IDS，一个三层多智能体入侵检测框架，