Attribute-based Undetectable Watermarking for Generative AI Models
本论文针对生成式 AI 模型输出内容的水印检测授权难题，提出了首个基于属性的水印方案（Attribute-based Watermarking）。现有密码学水印方法虽能保证未授权情况下输出与水印不可区分，但检测密钥一旦分发，持有者可任意检测
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题FakeI2V-Bench: Benchmarking the Applicability of Image-level Deepfake Detectors for Deepfake Video Detection
近年来，视频生成模型的快速进步显著加剧了深度伪造（deepfake）威胁，然而现有的深度伪造视频检测基准仍不成熟，特别是图像级检测器在视频域中的有效性尚未得到系统性评估。为了填补这一空白，本文提出了FakeI2V-Bench基准，专门用于在
AI Security Leaderboard: Methodology, Results and Minimal Standard
本文提出了 FAR.AI 人工智能安全基准（AI Security Leaderboard）的首个版本，并详细介绍了其方法论、结果与最低标准（Minimal Standard for Safeguards, Version 1.0）。研究背
SparSEEty: Extracting Tokens from Sparsity-Exploiting LLM Serving Systems via Deterministic Side Channels
该论文提出了一种名为 SparSEEty 的新型令牌提取攻击，针对利用激活稀疏性优化推理性能的大语言模型（LLM）服务系统。现代 LLM 在推理时仅激活部分神经元，这一特性被许多服务系统用于跳过非激活神经元的权重访问和计算，从而提升效率。然
Internalising the Identity Primitive: Cryptographic Individuality for an Autonomous Agent on a Public Blockchain
该论文提出并实现了一种在公共区块链上为自主代理建立‘密码学个体性’的新方法。核心研究问题是：当软件代理在公共区块链上积累权限与经济权益时，如何从密码学层面界定其‘个体’身份，而非依赖硬件、操作者或包装信任。作者将身份信任根迁移到由固定代码实
MutMem: Cryptographically Authorized Mutation in Persistent Agent Memory
该论文提出 MutMem，一个用于持久化智能体内存的授权变更协议，并集成在 HOM-AIMOS 持久化内存引擎中。核心问题在于：持久化内存需要根据后续结果调整早期证据，但可变的检索权重会引发“归因问题”——审查者必须区分经授权的自适应变更与
Evading Chain-of-Thought Monitoring Through Model Poisoning
该论文研究链式思维（Chain-of-Thought, CoT）监控在AI安全栈中的局限性。CoT监控假设模型的推理轨迹能够反映其真实行为，但作者通过模型投毒的手段挑战了这一假设。他们证明，攻击者可以在推理模型中植入后门，使模型执行攻击者指
Privacy-Preserving AI Verification via Minimal Information Disclosure
本文提出了一种名为“最小信息泄露”（Minimal Information Disclosure, MID）的框架，用于解决AI验证过程中的隐私保护问题。AI验证通常需要验证者获取足够的信息以确认某项授权声明，但这些证据可能同时泄露关于模型
Agentic Incident Response through Digital Twin-Enhanced Multiscale Planning
该论文针对当前事件响应（Incident Response）依赖安全运营人员按预定义剧本（playbook）手动执行，导致决策过程缓慢且劳动密集的问题，提出了一种基于大语言模型（LLM）的智能体化事件响应规划方法。现有自动化方案中，基于控制
Antares: Foundation Models for Agentic Vulnerability Localization
本文介绍了 Antares，一个用于智能体式漏洞定位的紧凑语言模型家族，包含 350M、1B 和 3B 三个参数规模。漏洞定位是软件安全中的基础步骤，要求模型能对大型代码库进行推理，并迭代地识别脆弱实现。Antares 基于 IBM Gra
Steganalysis of Adaptive Covert Collusion in Tool-Using Agent Populations: A Black-Box, Cross-Principal Approach
本文研究基于大型语言模型（LLM）的工具型智能体（agent）在共享基础设施上多实例并行部署时面临的新型“群体级”安全风险：少数智能体可能通过隐蔽的协作行为（如操纵市场、在评审中互相抬高、协同窃取数据）达成恶意目标，而单个智能体从个体视角看
EntailLLM: Verifying LLM-Generated Vulnerability Discovery Paths with Domain Knowledge via Logic Programming
该论文针对大语言模型（LLM）在软件漏洞推理中可能静默违反领域知识、导致安全关键场景（如医疗设备）可靠性不足的问题，提出了一种基于逻辑编程的验证框架 EntailLLM。现有方法要么将 LLM 输出仅作为待评分的预测，要么将其限制在单张知识
MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication
该论文研究多智能体大语言模型（LLM）系统中的私有状态泄露问题。尽管智能体的公开输出看似正常，但其内部消息、工具参数、日志和持久化记忆可能暴露受保护状态。现有的隐私提示、文本脱敏和源代码级访问控制只能限制表面内容或数据访问，却没有明确规定一
$S^3$: Improving Agent Safety through Multi-Stage Defense
本文针对大语言模型（LLM）智能体在多阶段工作流（如记忆、规划、工具执行等）中面临的安全风险问题。现有安全方法通常只保护单一阶段，难以集成和覆盖全流程，导致智能体在整个工作流中缺乏全面防护。为此，作者提出“阶段特定安全技能”（Stage-S
Securing Agentic AI: From Per-Action Checks to Trajectory Assurance
本文提出自主代理（尤其是基于大型语言模型的代理）在承担重要任务时的安全性问题。作者指出，代理的安全性不仅取决于单个动作的正确性，更取决于其整体行为是否与运行环境的操作约束、组织政策、监管要求和技术标准保持一致。随着代理自主性增强并跨组织边界
DenialRAG: Single-Document RAG Poisoning via Embedded Parametric Denial
本文研究检索增强生成（RAG）系统面临的数据投毒威胁。作者指出，已有单文档投毒攻击通常避免在恶意文档中显式提及正确回答，而是采用间接方式误导。DenialRAG 则采用相反策略：在投毒文档中直接写明正确回答，然后明确否定该回答，并附加一个看
No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks
该论文针对开放权重大模型面临的白盒神经元级安全攻击问题，提出了一种分布式安全对齐（Distributed Safety Alignment, DSA）方法。研究背景是：随着开放权重模型快速发布，安全威胁已从黑盒越狱转向神经元级白盒攻击——攻
Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
本文针对大型基础模型（LFMs）在开放环境中部署时面临的新型安全威胁——白盒攻击。与传统的黑盒越狱不同，白盒攻击能够直接定位并破坏模型内部的安全神经元或安全路由，而现有防御方法通常依赖静态安全单元或固定的拒绝路径，在路由级别的白盒攻击下显得
Why Formal Monitors Fail: Attack Distribution Entropy as a Coverage Bound for LTL-Based LLM Agent Safety
本文研究基于线性时序逻辑（LTL）和有限状态自动机（FSA）的运行时安全监控器在防御大语言模型（LLM）智能体工具调用序列时的失效原因。实际部署中，同一监控器在不同模型架构上对攻击的覆盖率差异巨大：在部分架构上可达 68-75%，而在另一些
Security-First Evaluation of Text-to-Terraform: Benchmarking LLMs and SLMs for Secure IaC Generation
该论文研究了大型语言模型（LLM）和小型语言模型（SLM）在生成基础设施即代码（IaC）时的安全性问题，特别是针对AWS Terraform配置。云配置错误是安全事件的主要根源，但业界对LLM/SLM能否生成符合安全规范的IaC缺乏系统性评