MPC-Patch-Bench: Security-Aware LLM Code Patch for Multi-Party Computation
本文提出了 MPC-Patch-Bench，这是首个针对安全多方计算（MPC）软件的仓库级基准，用于评估大语言模型（LLM）的代码修复能力。当前缺乏此类基准，直接移植通用基准（如 SWE-bench）存在三大结构性缺陷：（1）MPC仓库中通
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models
本文提出了一种基于计算压力的对抗鲁棒性评估框架，用于衡量大型语言模型（LLM）在对抗性攻击下的实际安全性。传统的评估方法通常以固定查询预算下的攻击成功率（ASR）作为指标，忽略了不同攻击策略在计算开销上的巨大差异（可能相差数个数量级）。为解
Understanding and mitigating the risks of OpenClaw for non-technical users: A practical guide with Skill
本文针对非技术用户在使用OpenClaw（一种新兴的AI代理框架）时面临的安全风险进行了系统性的研究。OpenClaw能够自主执行复杂的多步骤任务，吸引了大量用户，但现有安全研究主要面向技术专家，对非技术用户不够友好。作者首先识别并分类了七
What Do Deepfake Speech Detectors Actually Hear?
本文针对深度伪造语音检测器的可解释性不足问题，提出了一种基于积分梯度（Integrated Gradients）和时间对齐自监督表示（如WavLM）的音频原生可解释性流水线。该方法能够定位检测器在时间维度上的决策证据，并语义化解释最重要的声
Ethical and Technical Limits of Deepfake Speech Datasets
该论文对39个深度伪造语音数据集进行了系统性的数据集级审计，分析了可访问性、文档质量、人口统计与语言覆盖范围、数据集规模以及底层真实语音来源等关键属性。研究发现两个重要问题：首先，绝大多数数据集缺乏人口统计元数据（如年龄、种族、国籍等），仅
RAT: Reference-Augmented Training for ASV Anti-Spoofing
该论文针对自动说话人验证（ASV）中的欺骗检测问题，提出了一种参考增强训练（RAT）策略。作者首先设计了一种基于说话者参考录音的条件反欺骗架构，但在实验中发现该架构在推理时趋向于忽略参考信号，退化为无条件检测器。进一步分析表明，训练过程中引
A Bayesian Network Approach for Enhancing Security-Focused Decision Support Systems
这篇论文提出了一种基于贝叶斯网络（Bayesian Network, BN）的决策支持系统（Decision Support System, DSS），旨在帮助基础设施运营商在面对日益复杂的异构开源网络环境时，能够高效地选择合适的安全工具或
Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation
本文是一篇关于大型语言模型（LLM）智能体安全性的全面综述，共整合了247篇相关论文。论文指出，LLM智能体正从对话界面快速演变为能够规划、调用工具、维护记忆并在外部环境中行动的软件组件，这一转变从根本上改变了安全风险的性质。在智能体场景中
In Defense of Information Leakage in Concept-based Models
该论文重新审视了基于概念模型（Concept-based Models, CMs）中信息泄漏的传统观点。CMs是一类深度神经网络，其预测基于与人类可理解概念（如“圆形”、“条纹”等）对齐的表示。过往研究通常认为，CMs会学习到泄漏概念无关信
Post-Quantum Secure Federated DeFi for Inclusive Banking
该论文针对量子计算对现有金融加密体系构成的威胁，提出了一种后量子安全的联邦去中心化金融（DeFi）框架，旨在提升因信用记录不足而被传统银行排斥的个人的金融包容性。核心方法包括：多家银行将客户加密数据批量上传至虚拟服务器，采用基于格的全同态加
From Data Heterogeneity to Convergence: A Data-Centric Review of Federated Learning
联邦学习（FL）是一种分布式机器学习范式，允许多个客户端在不共享原始数据的情况下协同训练共享模型，从而解决数据孤岛和隐私问题。然而，数据本身也是FL系统面临的主要挑战和脆弱性来源，直接影响训练的稳定性和收敛速度。现有综述通常从整体架构、安全
Improving Adversarial Transferability on Vision-Language Pre-training Models via Surrogate-Specific Bias Correction
本文针对视觉-语言预训练（VLP）模型的对抗可迁移性问题展开研究。现有基于迁移的黑盒攻击方法通常严重依赖替代模型，导致对抗样本在替代模型上有效，但在未知目标模型上效果不佳。作者将此归因于对抗优化过程中替代模型特定的偏差（surrogate-
Assessing Automated Prompt Injection Attacks in Agentic Environments
该论文系统评估了针对LLM Agent的自动提示注入攻击方法。在Agentic环境中，LLM Agent会与不可信的外部数据交互，间接提示注入成为关键威胁。然而，在现实Agent场景下，自动攻击方法（如用于越狱的GCG和TAP）尚未被充分探
Advancing the State-of-the-Art in Empirical Privacy Auditing
本文针对大型语言模型（LLM）在参数高效微调过程中可能记忆个体训练样本的问题，提出了一种创新性的经验性隐私审计（EPA）方法。研究背景：微调后的LLM可能泄露隐私，现有审计方法依赖人工设计的“金丝雀”样本，但难以模拟真实数据分布且可能引入隐
The Distributed Detectability Band Against Marginal-Preserving Attacks
本文研究人工智能控制监控器（AI-control monitors）在面对分布式破坏攻击时的检测能力。传统监控器基于单步动作打分，但真实的危害可能分散在多个看似正常的步骤中，每个步骤的得分都低于警报阈值。作者提出了一种基于高斯Copula和
Local Is Not a Sufficient Privacy Boundary: Governing OS-Integrated On-Device AI
本文聚焦于操作系统集成的本地AI（On-Device AI）的隐私边界问题。作者指出，当前隐私讨论常将“本地运行”视为隐私保障的充分条件，但这一观点过于狭隘。本地AI助手可能整合邮件、日历、文件、截图、通知和应用程序意图，保留嵌入或摘要，调
Observability for Delegated Execution in Agentic AI Systems
本文聚焦于基于LLM的智能体系统（Agentic AI Systems）中委托执行的可观测性问题。在智能体系统中，代理可以动态选择工具、改变执行序列、并生成协作子代理，导致执行轨迹碎片化和交织。标准审计日志和执行追踪无法区分不同委托分配下的
Safe-RULE: Safe Reinforcement UnLEarning
离线安全强化学习（Offline Safe RL）能够在没有在线交互的情况下学习策略，因此适用于机器人等安全关键系统。然而，其依赖静态数据集的特点使其容易遭受数据投毒攻击，攻击者注入恶意样本以破坏安全性并导致不安全策略行为。本文提出一种新的
FuseFSS: Efficient Secure LLM Inference with Function Secret Sharing
本文提出 FuseFSS，一个针对两方服务器安全推理的高效编译器，用于保护大型语言模型（LLM）推理过程中的用户提示和嵌入隐私。当前基于函数秘密共享（FSS）的 GPU 安全推理系统在线性层上表现高效，但非线性操作（如定点非线性函数）和辅助
SecureClaw: Clawing Back Control of LLM Agents
本文研究了工具使用的大语言模型（LLM）代理面临的两类安全缺陷：一是未经授权的外部操作（如恶意调用外部工具），二是在最终输出检查之前运行时内部敏感明文泄露。现有防御通常仅保护单一边界（规划器/运行时或动作目标），无法同时保障两个面的安全。为