Selective Disclosure Watermarking for Large Language Models
大型语言模型（LLM）生成的文本中嵌入水印是一种追踪合成内容来源或验证其真实性的技术。现有方法分为零比特方案（仅区分机器与人类写作）和多比特方案（嵌入元数据如时间戳、模型版本）。然而，当前多比特水印方案存在一个关键缺陷：验证器必须解码整个嵌
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Privacy-Preserving Robustness Verification for Neural Networks
该论文提出SecureCROWN，首个用于隐私保护神经网络鲁棒性验证的框架。神经网络验证与数据隐私存在固有矛盾：验证需要完全访问模型参数和输入数据，但这受到隐私法规和知识产权限制。SecureCROWN基于安全两方计算（2PC），使模型所有
Full-range Binary Classifier Calibration for Stable Model Updates in Production
本文针对部署在对抗性环境中的安全检测模型，提出了一种全范围二元分类器校准方法（Full-range Binary Classifier Calibration）。在恶意流量/样本分布快速漂移而良性分布相对稳定的场景下，安全团队需要频繁重训练
When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents
本文研究了一种针对持久化个人代理（persistent personal agents）的新型安全威胁——隐蔽内存注入（stealthy memory injection）。持久化个人代理结合了长期记忆与用户外部环境访问能力，可提供个性化前
Privilege and confidentiality in generative AI workflows
本文聚焦于生成式人工智能工作流中的特权与保密性问题。作者指出，生成式AI系统通过三种不同方式存储和处理客户数据：训练与记忆中的模型参数、实时会话中的上下文窗口以及用于检索增强生成（RAG）的知识数据库。每种模式都会对保密性和法律职业特权产生
Agent Data Injection Attacks are Realistic Threats to AI Agents
本文提出了一种针对AI智能体的新型攻击类别——Agent数据注入攻击（ADI）。与传统的间接提示注入（IPI）主要关注指令注入不同，ADI攻击者将恶意数据伪装成可信数据，例如安全关键的元数据（资源标识符、数据来源等）或智能体上下文数据（工具
Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses
本文提出了一种针对大型语言模型（LLM）智能体持久记忆的新型攻击方法——伪造放大推理记忆攻击（FARMA）。传统的记忆中毒攻击主要污染事实性知识，而FARMA则针对智能体的推理历史进行注入。攻击者通过插入含有规避性语言的伪造推理痕迹，绕过基
TACTIC-KG: Toward Small Agent Teams for Cyber Threat Intelligence Knowledge Graph Construction
网络威胁情报（CTI）报告通常是非结构化、异构且包含噪声的，这限制了它们在自动化分析与推理中的直接可用性。网络安全知识图谱（CSKG）能够以结构化形式表示攻击实体、行动和关系，但从自由文本CTI中构建此类图谱仍然是一个挑战。现有方法通常依赖
RustMizan: A Compilable, Contamination-Aware Benchmarking Framework for Rust Vulnerabilities
本文提出RustMizan，一个针对Rust语言漏洞分析的可编译、污染感知的基准测试框架。现有漏洞分析基准通常依赖小型不可编译的代码片段，仅关注二分类（是否有漏洞），且未考虑公开数据集可能已包含在模型训练语料中带来的数据污染风险。RustM
Retroactive Chain-of-Thought (RetroCoT): Forensic Reconstruction Prompts as a Safety Diagnostic Across Model Generations
本文发现大型语言模型的安全对齐高度依赖于语用语境（pragmatic register），即模型对直接有害请求的拒绝并不能泛化到相同底层意图但不同语用表述的请求上。作者提出了一种名为“回溯式思维链”（RetroCoT）的单轮攻击方法，该方法
Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority
本文提出了一种名为“受控个体化”（Governed Individuation）的架构，旨在解决自主代理在部署后学习过程中可能超出其操作者授权范围的安全问题。传统对齐技术仅能在概率上保证代理行为符合预期，而本文通过密码学方法将代理的学习过程
Evaluating calibrated refusal and safe usefulness in dual-use biology settings
该论文针对AI智能体在生命科学工作流中可能带来的双重用途风险，提出了一个用于评估模型安全拒绝行为的基准测试——BioSecBench-Refusal。基准包含61个日常任务（来自已发表文献的合法分析）和46个红队任务（虚构但模拟真实研究场景
One Framework for All: Cross-Modal Membership Inference for Generative Models
本文提出首个统一框架，用于对文本生成、文本到图像、图像到文本三种模态的生成模型进行成员推理攻击（MIA）。现有方法针对单一模态设计，无法跨模态适用。作者发现一个模态无关的观察：生成模型的输出分布可近似其训练数据分布。利用这一特性，他们在共享
Agentic SABRE: An Uncertainty-Aware Neuro-Symbolic Multi-Agent Framework for Adaptive Ransomware Detection
本文提出了一种名为Agentic SABRE（Semantic-Behavioural Arbitration for Ransomware Evaluation）的不确定性感知、神经符号多智能体框架，用于自适应勒索软件检测。核心问题在于传
Piercing Gilbreath's Conjecture: From Deep Number Theory Insights to Fintech and Cybersecurity
本文针对自1878年提出至今仍未解决的Gilbreath素数猜想，提出了一种全新的攻击方法。该猜想陈述简单，但多年研究进展甚微。本文通过引入筛法理论，包括反向筛法的概念，重新定义了问题的解决路径，并给出了一系列带有证明的新结果。论文不仅深入
!Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics
该论文研究了针对开源机器人视觉语言动作模型（VLA）的数据投毒攻击，特别是触发词（trigger-word）投毒。作者指出，当前开源机器人生态系统在社区贡献的数据集上存在信任假设，而攻击者可以通过注入少量中毒样本就能隐蔽地嵌入后门，使机器人
Advanced Topic Modeling Techniques for Categorizing Software Vulnerabilities
随着软件漏洞的日益复杂和频繁，传统的分析方法在处理大量非结构化文本数据时往往效率低下，迫切需要更先进的解决方案。本研究利用基于大型语言模型（LLM）的最先进主题建模技术，从软件漏洞数据集的'Threat'特征中提取有价值的见解。研究中采用了
DualView: Preventing Indirect Prompt Injection in Personal AI Agents
本研究针对个人AI代理（如OpenClaw）面临的间接提示注入（IPI）攻击，特别是存储型IPI攻击，提出了一种名为DualView的新型防御机制。现有基于双LLM的防御（如Dual LLM）仅在代理的上下文中追踪不可信数据，将其替换为符号
A Failure-Mode Benchmark for Polymorphic Sybil Poisoning in RAG
该论文发布了一个针对检索增强生成（RAG）系统中协调性检索投毒攻击的基准测试与失败模式感知评估框架。作者将阅读器输出划分为四个互斥类别（金标准、劫持、弃权、漂移），并引入了实例级别的配对清洁到投毒转换矩阵和强制暴露协议，以隔离阅读器端冲突解
AutoCedar: An Agentic Framework for Verifier-Guided Access Control Policy Synthesis
该论文提出了AutoCedar，一个基于智能体（agent）的框架，旨在解决从自然语言需求自动生成访问控制策略时存在的安全隐患。传统上，大语言模型将自然语言需求转化为代码，但在访问控制中，生成的策略可能编译通过且看起来正确，却授予了未经批准