Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents
该论文针对持久化AI代理（Persistent AI Agents）的安全性提出了一种新的运行时防御框架。与传统单轮对话助手不同，持久化AI代理通过长期运行的软件系统与用户交互，其不安全内容可通过持久化状态、可复用技能和工具中介交互传播，形
#cs.CL
共收录 424 条相关情报。
← 返回所有主题Efficient Safety Alignment of Language Models via Latent Personality Traits
大语言模型（LLM）的安全对齐方法容易受到对抗性攻击的威胁，现有的防御手段如隐对抗训练（LAT）虽然有效，但需要大量有害提示数据，且可能损害模型效用。本研究提出了一种名为隐人格对齐（Latent Personality Alignment,
Multimodal Unlearning Across Vision, Language, Video, and Audio: Survey of Methods, Datasets, and Benchmarks
随着视觉语言模型（VLM）、扩散模型（DM）、大语言模型（LLM）和音频基础模型（AFM）的广泛应用，这些多模态基础模型可能会从训练数据中无意编码敏感、受版权保护、有偏见或不安全的跨模态关联。在收到删除请求或政策更新后重新训练通常不切实际，
Beyond Attack-Success Rate: Action-Graded Severity Scale for Tool-Using AI Agents
该论文针对工具型AI智能体的红队测试评估提出了一个关键问题：现有的二元攻击成功率指标（攻击成功或失败）忽略了防御者最需要的信息——即攻击造成的实际危害程度。作者设计了一个基于动作的分级危害量表（Action-Graded Harm Rubr
The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
自进化智能体通过观察技能执行失败来淘汰不良技能，从而保持技能库的质量。然而，当智能体依赖无参考任务的LLM作为评判者时，评判者的偏见可能导致技能淘汰机制失效。本文通过有偏奖励分析，理论证明偏见并非简单增加噪声，而是会无声地关闭技能淘汰功能。
Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies
该论文是一篇关于大语言模型（LLMs）和生成式AI（GenAI）在网络安全与隐私领域中双用途风险的综述。研究背景指出，到2025年LLM生成的恶意软件已占检测威胁的50%，而2021年仅占2%，表明AI驱动的攻击自动化正在飞速发展。论文通过
Automated Compliance Mapping in Cloud Security with Domain-Adapted Sentence Transformers
本文针对云安全中安全控制项到技术指标的手动映射效率低下的问题，提出了一种基于领域自适应Sentence Transformer模型的自动化方法。研究首先从五个欧洲安全标准（如ISO 27001、CSA CCM等）和技术指标集合中构建了一个包
Selective Disclosure Watermarking for Large Language Models
大型语言模型（LLM）生成的文本中嵌入水印是一种追踪合成内容来源或验证其真实性的技术。现有方法分为零比特方案（仅区分机器与人类写作）和多比特方案（嵌入元数据如时间戳、模型版本）。然而，当前多比特水印方案存在一个关键缺陷：验证器必须解码整个嵌
Retroactive Chain-of-Thought (RetroCoT): Forensic Reconstruction Prompts as a Safety Diagnostic Across Model Generations
本文发现大型语言模型的安全对齐高度依赖于语用语境（pragmatic register），即模型对直接有害请求的拒绝并不能泛化到相同底层意图但不同语用表述的请求上。作者提出了一种名为“回溯式思维链”（RetroCoT）的单轮攻击方法，该方法
!Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics
该论文研究了针对开源机器人视觉语言动作模型（VLA）的数据投毒攻击，特别是触发词（trigger-word）投毒。作者指出，当前开源机器人生态系统在社区贡献的数据集上存在信任假设，而攻击者可以通过注入少量中毒样本就能隐蔽地嵌入后门，使机器人
A Failure-Mode Benchmark for Polymorphic Sybil Poisoning in RAG
该论文发布了一个针对检索增强生成（RAG）系统中协调性检索投毒攻击的基准测试与失败模式感知评估框架。作者将阅读器输出划分为四个互斥类别（金标准、劫持、弃权、漂移），并引入了实例级别的配对清洁到投毒转换矩阵和强制暴露协议，以隔离阅读器端冲突解
HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety
本文提出了HaloGuard 1.0，一个开放权重的宪法分类器（constitutional classifier），用于大语言模型输入安全检测，特别针对多语言提示（prompt）的安全性。研究背景是现有开源安全模型通常体积庞大，在多语言场
Black-Box Inference of LLM Architectural Properties with Restrictive API Access
这篇论文研究了在API访问受到严格限制的情况下，如何推断大语言模型（LLM）的底层架构属性。当前大多数商业LLM供应商不再公开模型架构细节，且API只返回每个解码token的单一logit值，不再提供logit偏置功能。作者提出了Night
Safe Alone, Unsafe Together: Safeguarding Against Implicit Toxicity When Benign Images Combine
本研究聚焦于多图像内容中一种新型安全威胁——多图像隐式毒性（MIIT）。MIIT指的是每张图片单独看起来无害，但当多张图片被联合解读时，会产生有害语义。这种威胁在社交媒体中日益普遍，但现有的商业内容审核API和模型因缺乏每张图片中的显式风险
Robust Text Watermarking for Large Language Models via Dual Semantic Embeddings
该论文提出了一种名为双重嵌入水印（DEW）的语义水印方案，用于保护大型语言模型（LLM）生成的文本。DEW的核心创新在于同时利用上下文嵌入和词元级嵌入来增强水印对释义和翻译攻击的鲁棒性。方法采用信号处理框架，通过对词元和上下文的嵌入向量进行
The Decomposition Is the Fingerprint: Per-Component Identity for Agent Skills
本文针对AI agent在执行时从市场或其他agent获取的技能（包含提示指令、可执行代码和工具声明）的身份标识问题。现有加密哈希（如SHA）对微小改动敏感，无法反映技能之间的相似性，不利于技能治理和注册。作者提出一种紧凑的局部敏感指纹方法
Revocable Learned State via Process Sidecars
该论文提出了一种新的方法来实现语言模型已学习状态的“可撤回”操作，特别是在模型经过多个阶段训练（如公共技能阶段、私有记忆阶段、安全反习阶段）后，如何在不重新训练的情况下安全地移除特定记忆。作者发现，简单的任务算术（task arithmet
SurrogateShield: Beyond Redaction for High-Utility, Privacy-Preserving LLM Interactions
本文提出SurrogateShield，一种客户端代理框架，旨在解决用户与第三方大型语言模型（LLM）API交互时的隐私泄露问题。当用户查询包含个人可识别信息（PII）时，传统方法采用占位符删除（Placeholder Redaction）
Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense
该论文系统评估了大型语言模型（LLM）推理时安全防御方法的性能，填补了该领域缺乏系统比较的空白。研究涵盖了五种防御范式（无防御、静态引导、CAST、AlphaSteer、探针门控）在七个指令微调模型（参数量7-31B）上抵御五种攻击（GCG
Manufactured Confidence: How Memory Consolidation Turns Hearsay into Confident Facts
本论文研究了 LLM agent 在跨步骤和会话中使用压缩记忆时，记忆体（如 mem0、LangMem）对对话内容进行重写为存储的“事实”所引发的安全隐患。作者通过构建实验环境，展示了一种无攻击者参与的“制造确信”现象：一个随意、含糊的评论