Explainable-by-Design Audio Deepfake Detection via Wiener-Hopf Linear Prediction
本文提出了一种基于Wiener-Hopf线性预测的可解释音频深度伪造检测框架。针对现有黑盒模型可解释性差、计算复杂度高的问题，作者设计了一个轻量级二维卷积神经网络（CNN），将Wiener-Hopf预测系数作为输入特征，实现了分类结果与声学
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Traceback Translators Against Forgetting in Continual Fake Speech Detection
该论文聚焦于持续学习场景下的假语音检测问题。随着语音生成模型不断演进，假语音检测器需要持续更新以识别新类型的伪造语音。然而，传统的微调或增量学习方法会导致灾难性遗忘，即模型在适应新数据时显著丧失对旧数据的检测能力。作者提出一种基于域翻译器的
Breaking Refusal in the First Half: A Mechanistic Study of the Prefill Jailbreak
该论文对一种名为“Prefill Jailbreak”的越狱攻击进行了深入的机制研究。在这种攻击中，攻击者只需在提示开头添加一行预填充文本（例如“Sure, here is”），就能使经过安全对齐的大语言模型放弃拒绝回答有害请求的行为。论文
WaterMoE: Expert-Routing-based Watermarking for High Fidelity and Efficiency
本文针对大型语言模型（LLM）水印技术在实际部署中面临的两大挑战——模型性能严重下降和额外推理开销——提出了基于混合专家（MoE）架构的水印方案 WaterMoE。作者首先构建了一个涵盖多种生成任务的综合基准，系统评估了9种代表性水印方法，
Efficient and Privacy Aware Edge Cloud Collaborative Inference for Large Language Models
该论文针对设备端大语言模型（LLM）推理面临的三难困境：响应延迟、有限硬件资源和用户隐私。完全云端推理虽然计算能力强，但会暴露用户提示和对话数据；而完全设备端推理在大多数消费级和嵌入式边缘设备上不可行。为此，作者提出了一种以隐私为核心的边缘
A Threshold Exceedance Framework for CBRN Uplift Evaluation in Frontier Language Models
本文提出了一种阈值超出标准（Threshold Exceedance Criteria, TEC）框架，用于评估前沿语言模型是否显著提升非专业行为者策划化学、生物、放射或核（CBRN）误用的能力。现有CBRN评估在非专业定义、威胁范围、基线
AutoTrace: From Patches to Triggers via Agentic Interprocedural Exploration
本文提出 AutoTrace，一个基于智能体（agentic）的流水线，用于从漏洞修复补丁中定位触发器（trigger），即导致脆弱程序状态转变为具体不安全操作的语句。该问题比二元漏洞检测更难，因为答案需要跨过程（interprocedur
Representation and Reference Selection in Training-Free Synthetic Image Attribution
该论文研究了训练无关（training-free）的参考式合成图像溯源方法，即通过将待检测图像与已知生成源的参考图像进行比较来识别其来源。此类方法无需针对新生成器重新训练分类器，仅需添加特定来源的参考即可扩展，具有可扩展性强的优点。然而，其
An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory
该论文针对生成式人工智能背景下日益严重的对话式诈骗威胁提出了一种可解释的智能体系统。对话式诈骗通常持续数周或数月，逐步建立信任后索取金钱或敏感信息，而现有检测系统主要关注孤立信息，难以应对此类复杂攻击。本文首先扩展了单消息钓鱼检测，构建了一
Agent Hacks Agent: Autoresearch for Production-Agent Red-Teaming
本文针对生产环境中的 LLM Agent（如 Claude Code 和 Codex）面临的自动红队测试问题展开研究。这类 Agent 处理不受信任的内容、文件、命令和工作区状态，直接导致安全风险的可行性，因此需要持续的红队测试来跟上模型和
Closing the Loop: An Access-Control Architecture for Automated, Anomaly-Driven Network Revocation in IoT Deployments
本文提出了一种面向物联网（IoT）部署的闭环访问控制架构，旨在将基于网络的异常检测结果自动转化为实际的网络撤销动作。现有研究大多仅停留在告警层面，而将自动执行留作未来工作或依赖可编程数据平面，但后者在真实网络中部署有限。本文利用标准且已广泛
Baselines Before Architecture: Evaluating Coding Agents for Autonomous Penetration Testing
本文针对自主渗透测试领域的研究现状进行了深入分析。近期，许多自主渗透测试论文报告了高分基准结果，但这些系统通常在前沿大语言模型（LLM）周围添加了多组件的安全框架（harness）。由于这些系统同时改变了架构和骨干模型，很难区分性能提升来自
Mako: A Self-Evolving Agentic Operating System (SE-AOS) for Autonomous Web Exploitation
本文提出并实现了 Mako，一个自演化代理操作系统（SE-AOS）的实例，专为自主 Web 漏洞利用而设计。该系统将利用能力视为一个可变的、版本化的内核，在运行时通过观察自身失败、合成新能力、在实时目标上验证并热加载改进来扩展自身。Mako
SingGuard-NSFA: Extensible Guardrails for Agentic AI via Generative Reasoning and Real-Time Classification
本文介绍了SingGuard-NSFA，一个面向Agentic AI系统的安全护栏框架，旨在防御提示注入、敏感信息提取、恶意代码请求、危险工具滥用和资源耗尽等操作威胁。首先，作者提出了NSFA分类法，将185种风险变体组织成基于CIA三元组
AMT-X: Phase-Structured Multi-Turn Red-Teaming with Checklist-Gated Evaluation
当前大语言模型（LLM）的安全性评估主要依赖单轮攻击数据集和单一评分器，这低估了自适应多轮攻击者带来的风险，并且报告的成功率无法区分部分可操作的输出与包含完整操作细节的输出。本文提出AMT-X（自适应多轮利用）框架，一种阶段结构化的多轮红队
MusicMark: A Robust Generative Watermarking Framework for Music Generation
随着AI音乐生成技术的快速发展及其在商业平台上的广泛应用，对生成音乐进行可靠溯源和归属认证的需求日益迫切。然而，现有的音频水印研究主要针对语音，而音乐具有复杂的结构和丰富的声学纹理，直接应用语音水印方法面临巨大挑战。大多数现有方法都是事后式
Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows
本文系统性地调查了大型语言模型（LLM）在欺诈检测、诈骗调查、内容审核及其他信任与安全（Trust-and-Safety）工作流中的部署证据现状。作者指出，现有公开文献大多将LLM作为独立模型进行评估，而较少关注其在运营流水线中作为组件的实
The Entanglement Wall: Activation-Space Probes as Risk Detectors, Not Context Adjudicators
该论文探讨了在大型语言模型（LLM）的安全对齐中，上下文是否会改变请求的有害性，而不改变其主题或表面形式。研究者提出了一个核心问题：残差流探针（residual-stream probes）能否在一个有用的操作点上区分有害请求与表面匹配的良
Distributed Denial of Science: How Indirect Data Poisoning of AI Systems Can Industrialize Scientific Fraud
本论文探讨了一种新型的科学欺诈攻击方式——间接数据投毒（Indirect Data Poisoning）。随着人工智能在科学研究中的广泛应用，自主研究代理（autonomous research agents）能够自动检索和处理公开数据集。
PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference
本论文针对大型语言模型（LLM）服务中的隐私保护问题提出了一种新的提示清洗方法PromptGraph。LLM推理过程中，用户的敏感信息不仅可能通过显式标识符（如姓名、电话号码）泄露，还可能通过看似无害的文本片段之间的上下文关联被推断。现有的