Mind the Hook: Source-Level Auditing of Privacy Defenses in Retrieval-Augmented Generation
该论文针对检索增强生成(RAG)系统中的隐私防御机制提出了一种源级审计方法。现有黑盒隐私评分难以解释,除非知道被审计防御在活跃管线中的具体挂钩(hook)位置。作者提出“活跃路径审计”(active-path audit),包括三个步骤:盘
今日共收录 1506 条安全情报,包含 770 个 CVE,368 篇安全通告,以及 83 篇研究论文。
← 返回归档列表该论文针对检索增强生成(RAG)系统中的隐私防御机制提出了一种源级审计方法。现有黑盒隐私评分难以解释,除非知道被审计防御在活跃管线中的具体挂钩(hook)位置。作者提出“活跃路径审计”(active-path audit),包括三个步骤:盘
随着基于AI的人脸识别系统广泛应用,用于训练的生物特征数据保护变得至关重要。视觉秘密共享(Visual Secret Sharing)将人脸图像拆分成看似随机噪声的份额,并可分散存储于多个机构,但这类份额作为噪声容易引起怀疑,被视为加密内容
本文针对美国各州交通部门(DOT)越来越依赖全州连续运行参考站(CORS)网络来支持智能交通系统所需的高精度GNSS定位与授时这一背景,提出利用该网络作为空间分布式传感器,以识别无意(环境)和故意(网络)干扰。由于GNSS测量在受到干扰时会
HaloMark 提出了一种面向基础模型 embedding 向量的水印方案,并使其与 C2PA 内容溯源标准绑定。由于 embedding 在量化、投影、微调和窗口平均等常规操作下会改变数值,无法像图像或音频那样使用稳定的位级或感知哈希进
该论文针对黑盒多模态护栏(guardrail)在安全评估中的指标归属偏差问题展开研究。通常,一个包含护栏的防御流水线会被整体评估,其报告的安全分数被默认视为护栏自身的贡献,但由于被保护的目标模型本身也具备对齐能力,实际拒绝可能来自两者之和。
本文针对众包联邦学习(Crowdsourced Federated Learning, CrowdFL)中的鲁棒性问题展开研究。CrowdFL 通过众包范式允许开放和异构的参与者加入联邦学习,但这也引入了恶意或不可靠的参与者。现有工作通常使
本文首次提出针对带最大池化(Max Pooling)的卷积神经网络(CNN)的参数提取攻击,填补了该领域的研究空白。此前,基于黑盒输入输出查询的DNN参数提取攻击主要针对ReLU全连接网络(FCNN),而CNN因最大池化层引入额外非线性和对
该论文提出 Velosiraptor,一个通过软件综合自动生成低层操作系统(OS)代码的系统,用于编程机器的内存硬件。研究背景在于:操作系统开发者需要正确配置内存硬件以确保安全运行时环境,包括不可信应用间的隔离和完整性保护。然而,随着架构师
自主AI代理在完成模型训练和决策支持等下游任务时,越来越依赖外部数据。然而,现有数据发现系统主要面向检索:从异构来源返回候选数据集,但缺乏对任务特定效用的估算、在预算约束下的成本效益选择,以及来自先前使用的可信反馈的整合能力。为此,本文提出
本文提出 Fed-SRC,一种用于联邦、差分隐私、自适应监控的检索增强生成(RAG)的选择性风险认证框架。选择性风险认证的目标是保证被接受的模型输出满足预设的错误率目标。Fed-SRC 的核心创新在于提供了一种与具体评分函数无关(score
大型推理模型(LRM)在将复杂任务分解为中间推理步骤时,暴露出一种新的安全失效模式:对抗性提示可操纵推理上下文、任务分解或能力解读,使有害目标被当作合法推理步骤处理。现有防护措施(如安全提醒、外部分类器、自检查包装器)通常较脆弱,因为它们要
该论文系统评估了前沿大语言模型在无人提示安全要求时编写代码的合规性,以及仅提及一次安全标准对结果的影响。研究选取三个模型(Claude Fable 5、Claude Opus 4.8、Claude Opus 5),在四个典型用例(S3 CL
本文对2020年至2023年间收集的1300个真实世界中的钓鱼工具包(Phishkits)进行了深度分析,旨在揭示其架构和操作动态。钓鱼攻击一直是攻击者绕过现代防御、渗透关键系统的常用手段,而Phishkits在其中扮演了关键角色,它们通常
量子密钥分发(QKD)协议通过量子力学原理提供信息论安全性,但实际部署中QKD本质上是混合协议:其安全结论高度依赖量子阶段与经典后处理阶段的正确集成。虽然ETSI和ITU-T等标准组织已定义了QKD的架构与接口,但现有规范通常在隔离条件下评
本文研究家长控制功能对数字取证过程的影响。家长控制系统旨在保护未成年人上网安全,但可能无意中阻碍数字取证调查:启用后不仅限制管理员权限、禁用调试选项,还会改变数据可访问性,给证据获取与分析带来额外困难。作者对微软、谷歌和苹果的家长控制功能进
该论文提出一个名为 HarnessSafe 的基准测试,聚焦于现代智能体 harness(agent harness)中持久化载体(persistent carriers)带来的延迟安全风险。现代智能体系统为了跨任务和会话保持状态,会使用内
该研究针对无人机蜂群协同 GNSS 欺骗检测中一个被忽视的结构性盲点。常见的协同防御机制会利用机间距离/几何测量来交叉验证各无人机报告的 GNSS 位置, 但本文通过规范自由度论证指出: 如果攻击者对蜂群施加一个共同且缓慢变化的刚性平移 (
本文提出了一种基于混合整数线性规划(MILP)的差分故障攻击(DFA)改进框架,命名为MIFA。研究背景源于对DEFAULT和BAKSHEESH两种分组密码的DFA安全性分析:ASIACRYPT 2021上DEFAULT被设计为算法层面抵抗
本文针对射频指纹(Radio Frequency Fingerprint, RFF)无线设备认证技术缺乏基础理论支撑的问题,提出了一个通用理论框架。当前RFF认证虽已在多种数据集和场景下被广泛研究,但学界尚未从理论上解释RFF为何能作为可靠
该论文针对高级计量基础设施(AMI)中拒绝服务(DoS)攻击和时延攻击(TDA)的经济影响进行了量化评估。AMI是现代电力系统的关键组成部分,它通过智能电表提供近实时的用电数据,用于运行规划和负荷估计。然而,其通信网络(如DNP3协议)容易