Watching the watchers: bias and vulnerability in remote proctoring software.
该论文针对远程监考软件展开首次系统性技术分析，以美国法学院和州律师资格考试中常用的四款监考套件为案例，深入评估考试完整性、程序公平性以及考生安全与隐私三大核心问题。研究背景是新冠疫情加速了教育线上化，且律师、医生等高风险执业资格考试逐渐采用
#ai-security
共收录 102 条相关情报。
← 返回所有主题WeaveMark: Robust and Scalable Multi-bit LLM Watermarking via Coded Payload Spreading
大型语言模型（LLM）的广泛应用带来了生成内容溯源与合规治理的需求。多比特水印技术通过将用户可追踪的身份信息嵌入模型输出文本，能够实现内容来源的精细化追溯。然而，现有方案普遍面临提取准确率、文本质量与载荷容量三者之间的根本性权衡。本文提出一
Agent Memory Is a Surface for Endogenous Authorization Laundering
这篇论文研究长效 LLM 代理（Long-running LLM agents）中持久内存（persistent memory）的授权状态管理问题。持久内存用于跨交互保存状态，包括权限、限制和撤销记录。作者发现，当内存错误表达不断演变的授权
Cheap Verifiers, Large Blind Spots: Measuring the Reliability Cost of Cost-Saving Cascades
该研究针对基于大语言模型（LLM）的推理级联（inference cascades）系统，探讨其成本控制策略背后的可靠性代价。推理级联通常以廉价模型处理大多数查询，并将困难样本升级至前沿模型进行验证，以降低推理成本。自然的扩展是形成闭环：在
Explanation as a Watermark: Towards Harmless and Multi-bit Model Ownership Verification via Watermarking Feature Attribution.
本文提出了一种名为“解释即水印”(Explanation as a Watermark) 的神经网络模型所有权验证方案，旨在解决深度学习模型被窃取或未经授权复用时的归属认定问题。传统模型水印方法通常直接修改模型参数或输出，可能会影响模型在正
GhostSplat: Input-Triggered Backdoors for Multi-View-Consistent 3D Content Manipulation in Feed-Forward Gaussian Splatting
GhostSplat 针对前馈式 3D 高斯泼溅（Feed-forward 3D Gaussian Splatting, 3DGS）提出了一种输入触发的后门攻击方法。前馈式 3DGS 模型能够通过一次前向传播从稀疏图像中重建三维场景，其共享
Beyond F1: Evaluating Coverage and Failure Recovery in AI Model Security Scanners
近年来，机器学习工件的安全性日益受到关注，特别是Pickle和PyTorch等格式可能嵌入恶意代码，静态安全扫描器（如ModelScan、ModelAudit和Fickling）被用于检测这些工件中的可执行或危险内容。然而，传统的评估指标（
SILK: Closing the Time-of-Check-to-Time-of-Use Gap in RoT-Protected AI Systems
该论文提出 SILK（Streaming Inline Lightweight Keying），用于解决 AI 系统中由根信任（RoT）保护模型加载后面临的 TOCTOU 完整性缺口。RoT 在加载阶段验证 DNN 模型，但权重在到达计算引
Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation
该论文是一篇关于检索增强生成（RAG）安全与鲁棒性的系统性综述。RAG 通过引入外部知识库来增强大语言模型，能够提升事实性和减少幻觉，但与此同时，检索-生成流水线也引入了新的安全风险，例如语料库投毒（corpus poisoning）、后门
Evaluating and Preventing Security Smells in AI-Generated Ansible Code
本文研究了AI编程助手生成的基础设施即代码（IaC）中存在的安全问题。以往研究大多关注AI生成代码的功能正确性，但对其安全性关注不足。作者指出，如果基础设施代码存在安全缺陷，会直接传播到部署的系统，导致不可信的基础设施。论文评估了16个AI
DIME: Query-Efficient Framework for Membership Inference on Diffusion Models
DIME 是一篇针对扩散模型成员推理攻击的研究论文。成员推理攻击旨在判断某个数据样本是否被包含在模型训练集中，这类攻击对数据隐私构成直接威胁。已有的扩散模型成员推理攻击大多依赖启发式策略，且需要较大的查询预算，实用性受限。DIME 从理论层
Towards More Practical Threat Models in Artificial Intelligence Security.
本文针对人工智能安全研究中威胁模型与工业实践脱节的问题进行了系统性分析。作者指出，近年来学术研究关注的 AI 安全威胁往往不能反映实际部署场景，例如模型在真实环境中通常不是孤立运行的，而是作为更大机器学习流水线的一部分；同时，学术攻击所依赖
Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions
本文提出了一种名为 DFL-C 的新型拜占庭鲁棒去中心化联邦学习（DFL）架构，旨在解决去中心化场景下全局模型一致性问题。传统的去中心化联邦学习允许各节点在没有中央服务器的情况下协同训练 AI 模型，但现有方案无法保证全局模型一致性，这在任
Inaudible Adversarial Perturbation: Manipulating the Recognition of User Speech in Real Time.
自动语音识别（ASR）系统已广泛应用于智能助手、语音控制、电话客服、会议转写等场景，其安全性直接关系到用户隐私和设备控制权。已有研究表明，ASR系统容易受到对抗样本（Adversarial Examples, AEs）的攻击，通过引入精心设
UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage.
本文标题为'UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage'，提出了一种名为UBA-Inf的新型后门攻击方法。根据标题推测，该攻击
Linguistic Holonomy and Statistical Watermarks: Inner Geometry of Meaning-Preserving Transformations
本论文针对语言模型统计水印在语义保持变换下的鲁棒性问题展开理论分析。现有研究通常通过比较改写前后文本的语义相似度（即“端点”度量）来评估改写对水印的破坏程度，但作者指出这种端点度量是错误的统计量。受数学中纤维丛和和乐（holonomy）概念
Conjunctive Poisoning in AI Supply-Chain Applications
该论文研究大型语言模型（LLM）和视觉语言模型（VLM）在实际部署中的一类新型安全风险。现代AI推理流水线通常包含提示包装器（如模板、后处理脚本）和配置元数据（如JSON/YAML文件），这些文本工件共同影响模型输出。尽管模型权重和二进制文
Technical Report on Resilient and Secure Large-Scale Energy Internet Systems
本报告由 IEEE PES 工作组撰写，聚焦大规模能源互联网（Energy Internet, EI）系统的安全性与弹性问题。EI 系统通过深度数字化将电力层、信息层和市场层紧密耦合，形成典型的网络-物理融合系统（CPS），其安全威胁面已从
ClearStamp: A Human-Visible and Robust Model-Ownership Proof based on Transposed Model Training.
深度神经网络（DNN）在数据采集和训练过程中成本高昂，因此被视为模型创作者的知识产权。未经授权的使用、篡改或窃取可能引发法律纠纷。现有DNN水印方法大多嵌入不可见标记、依赖非直观的算法评估且缺乏人类可理解的属性，并依赖刚性阈值，在部分水印擦
Logit-Boundary Geometric Belief Interfaces and Sparse Sheaf-Enclave Protocols: A Self-Contained Substrate for Secure Network Electronic Health Record (EHR) Interoperability
该论文针对电子健康记录（EHR）互操作性中的安全边界问题，提出了一套数学与工程架构。作者指出，传统系统、生成模型、术语服务、身份系统及人工审核者各自暴露丰富内部状态，而实际业务交换需要一种窄化的共享接口，以承载类型化声明、有限不确定性、来源