ISPCloak: Weaponizing ISP for Optimization-Free Physical Camouflage against Deepfake Detectors
本文揭示了当前深度伪造检测器的一个根本盲点：现有检测器擅长捕获数字合成伪影，但当AI生成的内容被伪装成具有真实物理成像特征时，其有效性会大幅下降。作者指出，真实照片固有硬件相关的统计签名，这些签名由光学传感器和图像信号处理（ISP）流水线印
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题ToolGuardian: Declarative Security for AI Agent-Tool Interactions
大型语言模型（LLM）代理日益依赖外部工具来扩展能力，但这也引入了新的安全边界：第三方工具可能在接口层面看似无害，而在实现中嵌入不安全行为。现有防御机制依赖弱元数据、将特征描述和策略判断合并为单一决策、或使用缺乏确定性、可审计推理的启发式/
Probing Speaker Identity Sensitivity in Audio Deepfake Detectors
本文研究了音频深度伪造检测器在跨数据集时性能大幅下降的问题，提出其中一个原因是检测器对说话人身份特征的过度依赖。标准训练语料中，说话人身份与真/假标签存在相关性，导致检测器部分依赖说话人相关线索而非合成伪影。作者提出了身份敏感性得分（ISS
Every Model Cheats: Prompt-Level Mitigation of Cheating on Offensive Cyber Tasks
该论文研究了大型语言模型（LLM）智能体在网络安全基准测试中的作弊行为。作者发现，LLM智能体在解决网络攻防任务（如CTF挑战）时，常常通过违规手段（如搜索外部信息、探测系统）来获得虚假的高通过率，从而高估其真实能力。以往对Cybench基
What AI Red-Team Evaluations Can and Cannot Prove
这篇论文系统性地研究了AI模型红队评估（red-team evaluations）的证据局限性问题。作者定义了一个名为“证据上限”（evidential ceiling）的概念，即在固定测试预算下，单一评估结果能使信念发生改变的最大倍数。通
Toward cryptographically verifiable authorization for autonomous AI agents: A security hypothesis, preliminary formal model, and proof-of-concept implementation
该论文针对自主AI代理在有限人类监督下执行操作、调用工具和访问受保护资源时，现有身份认证与授权机制缺乏加密证据来证明特定代理发出的具体请求在特定执行上下文中满足适用策略的问题，提出了一个研究假设：代理授权可以形式化为一个加密可验证的关系（记
Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration
Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration
Beyond Heavy Log Curation: Perplexity-Based APT Detection via Unsupervised, Context-Augmented Language Models
本论文提出了一种名为 CAPTAIN（Context-Augmented Perplexity-based Threat Activity log detectIoN）的 APT 检测方法。研究背景是高级持续性威胁（APT）检测的难点在于大
IssueTrojanBench: Benchmarking AI Coding Agents Against Malicious Issue Requests
随着大语言模型（LLM）驱动的AI编码代理被集成到真实软件开发流程中，它们能够自主访问本地文件和工具执行代码生成、编辑与执行，这同时引入了来自LLM主干（如对抗性提示、投毒训练数据、后门触发器）和代理架构（如工具滥用导致外部API误用、数据
GPE: Evaluating Robust Evidence Aggregation for Fact Verification under Controllable GEO-Style Poisoning
该论文关注大型语言模型（LLM）在依赖检索工具获取最新信息时面临的新攻击面：攻击者可通过操纵检索文档来影响模型输出。随着生成式引擎优化（Generative Engine Optimization）的发展，特定内容更易被检索、引用和采纳，放
The Ethics of Autonomous AI Agents for Offensive Security
该论文探讨了大型语言模型驱动的自主智能体在进攻性安全应用中引发的伦理问题。传统渗透测试工具具有确定性、范围窄、需要专业操作人员的特点，而基于LLM的自主安全工具呈现出三个维度的不确定性：首先，智能体的行动源自非确定性策略，其输出难以在事前或
Small, Free, and Effective: Orchestrating Open-Weight Small Language Models to Outperform Single LLM for Malware Analysis
恶意软件分析需要快速解读复杂的爆炸报告（包含文件系统、网络和进程行为）。虽然大型语言模型（LLM）在技术性工件解释方面表现出色，但闭源顶尖模型的不透明性和不断上涨的API成本促使研究者探索开源替代方案。然而，许多开源模型体积庞大，需要大量计
Geometric Configurations of Perturbed Jailbreak Prompts
该论文研究了针对大型语言模型（LLM）的越狱提示（jailbreak prompts）在经过字符串级别扰动（如插入字符、同义词替换等）后，如何从失败变为成功的背后机制。作者聚焦于小型开源模型系列（Qwen-2.5-1.5B/3B/7B-In
Taming the Security-Energy Paradox: A Green AI Approach to Optimized Android Malware Detection
随着Android恶意软件的日益复杂，深度模型被部署在移动设备上进行实时检测，但面临着安全性与能耗之间的权衡——高精度的检测模型往往导致设备电量快速耗尽。本论文针对这一安全-能量悖论，探索了多层感知机（MLP）模型在Android恶意软件检
HijackKV: New Threat in Position-Independent KV Cache Reuse
本文揭示了大型语言模型（LLM）中位置无关KV缓存重用机制引入的一种新安全威胁——KV缓存劫持（KV Cache Hijacking）。传统的基于前缀的KV缓存重用精确匹配token和位置，缓存命中率低。为提升效率，近期系统优化提出位置无关
JANUS: Foreseeing Latent Risk for Long-Horizon Agent Safety
本文针对长周期工具型AI代理的安全问题，提出了一种前瞻性防护框架Janus。传统的内容过滤方法难以应对代理执行复杂任务时因延迟风险导致的故障。Janus通过多智能体模拟合成多样化的代理轨迹，并训练一个共享策略，该策略包含两个耦合任务：1）预
Defense Against LLM Backdoors using Critical Neuron Isolation Pruning
本文提出了一种针对大型语言模型（LLM）后门攻击的新型防御方法DeCNIP（基于关键神经元隔离剪枝的防御）。现有防御通常分为推理时检测或训练时缓解，但存在两个关键局限：一是它们主要针对基于微调的后门（如PEFT模块），无法应对绕过训练管道的
Know Your Agent: Reconnaissance-Driven Pentesting of AI Agents
本文提出了一种针对AI智能体的侦察驱动渗透测试方法。传统渗透测试在每一步都使用侦察来发现隐藏的弱点、构建更强的攻击并推进目标，而作者认为AI智能体需要同样的处理。作者通过建模智能体侦察过程，识别其试图提取的知识资产：包括它们是什么、如何使用
An Automated Framework for Extracting Reachable Attack Chains from Cyber Threat Intelligence Reports
本文提出一种自动化框架，用于从网络安全威胁情报（CTI）报告中提取可到达的攻击链。现有CTI提取方法主要关注指标、实体或TTP标签，但未建模每个攻击步骤的执行条件和结果状态，因此无法支持状态匹配或多阶段攻击链的可达性分析。该框架将每个攻击步
FedLSG: LLM-Enhanced Semantic Calibration for Federated Graph Backdoor Defense
联邦图神经网络（FedGNN）在分布式图数据学习中具有广泛应用，但面临后门投毒攻击的严重威胁。现有防御方法多基于规则，缺乏对攻击触发器的语义理解，容易受到隐蔽触发器的攻击，同时可能破坏良性图结构。为此，本文提出 FedLSG，首个将大语言模