#data-loss-prevention

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Asmita Negi, Neeraj Kumar Singh Beshane

本文针对「实时屏幕共享型 AI 助手」的隐私治理难题提出 PerceptFence。这类助手需要持续读取用户的原始屏幕画面与语音流,但用户几乎无法在运行时控制助手可以观察、记忆或对外披露哪些内容。作者指出,仅靠提示词层面的隐私开关是无效的,因为敏感信息是通过采集通道(屏幕像素、语音、OCR 文本)进入系统的,提示层根本看不到也不掌握这些数据。PerceptFence 的设计是在「采集层」与「记忆层/模型响应层」之间插入一个内容中介层(content-mediation architecture),对流入模型上下文的感知内容做统一的内容级判定与中和处理;论文同时给出了一套确定性的合成夹具(synthetic-fixture)评测脚手架,用固定种子、固定规则保证结果可复现。作者明确声明该工件不包含真实采集、类别推断、经认证的再授权、跨会话状态以及外部模型适配器,因此属于架构与评测方法的贡献,而非可直接部署的系统。评测分两阶段:第一阶段用 9,600 条有协议文档记录的对抗字符串,由独立实现的 exposure oracle 打分,在双方共同运行的 5 个种子上,PerceptFence 对「数字型 PII」载荷的中和率为 0.828,而 Microsoft Presidio 为 0.183;但在该族之外 Presidio 反而领先(0.238 对 0.154),因此总体 0.398 对 0.260 的对比只能视为参考性、非定论。第二阶段更贴近真实部署路径:用 Chrome 渲染 480 张合成的开发者支持工单截图,加入退化处理后交给 OCR 读取,规则在测试前冻结,并留出三种屏幕类型做留出验证;PerceptFence 中和了 968 个经 OCR 仍存活下来的密钥与 PII 值中的 889 个(0.918,Wilson 95% 置信区间 0.899–0.934),对比 Presidio 的 0.581 与 gitleaks 的 0.179;在留出屏幕类型上达到 0.974,代价是这些类型上任务 token 保留率为 0.763。作者强调该工作的贡献是有文档记录的中介架构与带显式覆盖边界的评测方法,并不宣称已实际部署、形式化隐私保证、新的脱敏原语或通用模型鲁棒性。

💡 推荐理由: 屏幕共享与语音是 LLM 助手最容易被忽视的数据入口,提示词级防护对此无效。本文给出了「采集中介层 + 可复现确定性评测」的可借鉴范式,并提供了 OCR 链路下密钥/PII 泄漏的量化基线(0.918 对 gitleaks 0.179),对做 AI 助手数据防泄漏的团队具有直接参考价值。

🎯 建议动作: 研究跟进:将内容中介层与确定性评测方法纳入内部 AI 助手数据防泄漏方案评估,并在自研链路上复现其覆盖度测量方法。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Weidong Zhu 0002, Carson Stillman, Sara Rampazzi, Kevin R. B. Butler

论文面向企业数据丢失防护(DLP)与存储介质安全删除难以统一的现实问题,提出一种带“保留感知”语义的版本化固态硬盘(Versioning SSD)。传统 DLP 通常依赖上层应用拦截和文件系统快照,面临性能开销大、回收不彻底、数据残留等挑战;本文把版本管理和保留期控制下沉到SSD内部,每当主机发生覆盖或删除操作时,底层存储控制器不仅记录新版本的映射,也会按策略保留旧版本生命周期,使合法的误删恢复和勒索软件事件取证得以实现,同时通过感知每个版本的最小保留期、最长保留期,让垃圾回收在保证有效版本的前提下尽量缩减对空闲块的消耗,避免写入放大和磨损加剧。文章还着重探讨安全删除语义:达到保留期限的版本应被不可逆擦除,甚至可用物理擦除或密钥销毁机制保证敏感数据不会残留在闪存中。若用于 DLP 策略,还可增加审计契约,使管理员能够以可证明方式确认过期数据已删除。文中很可能设计了某种原型,通过盘内固件或 FPGA 平台测量多工作负载下的吞吐、延迟与回收效率,并与常规快照、Copy-on-Write 文件系统做对比。该项工作的启示是系统安全可进一步“下沉”到存储硬件,把版本控制转化为稳定可信的安全基座,同时兼顾主机侧不可信运行环境。

💡 推荐理由: 安全运维中数据被误删、被勒索锁死或攻击后残留是常见难题。该论文将保留与回收控制内置SSD,使恢复不再完全依赖备份,也支持符合合规的策略化销毁,对防御勒索软件和满足数据最低留存期限要求均有参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kyutae Park, Jungwon Kim, Daeyeol Shim

本文提出 PolicyGuard,一个面向 LLM 编程助手的提示词拦截框架,用于在用户提示词进入代码生成模型之前进行语义级数据防泄漏(DLP)检测。研究背景是:AI 编程助手接受自由形式的自然语言提示,其中可能无意包含凭据、个人身份信息(PII)或专有业务数据,而现有 DLP 方案依赖刚性正则、模型微调或厂商管理的分类器,定制性受限。PolicyGuard 的核心创新是“策略即提示”(policy-as-prompt)范式:将 DLP 分类标准完全定义在一个纯文本策略文件中,非工程师无需编写代码或重新训练模型即可编辑策略。框架使用 LLM 对用户提示进行分类,依据该自然语言策略判断是否应阻止。作者还设计了严格的评估协议,包括模板族级数据划分、隐藏保留集和冻结测试集,以评估泛化能力。实验基于 2,000 条多语言提示,在 927 条冻结测试集上达到 96.5% 的有效阻止率(EBR)和 3.0% 的误报率(FPR),在 217 条隐藏保留集上达到 100% 准确率。信息匹配基线的对比实验表明,自然语言策略格式显著优于等效 JSON 格式(McNemar 卡方=31.58, p<0.001),并大幅优于零样本分类(Cohen's h=0.915)。跨模型可移植性实验显示,同一策略在四种不同 LLM 上无需修改即可达到 86.4%-96.5% 的 EBR。适合安全工程师、DLP 产品研发人员及 LLM 应用架构师阅读。

💡 推荐理由: LLM 编程助手正成为敏感数据泄漏的高风险入口,PolicyGuard 提供了一种无需模型重训、策略可被非工程师编辑的轻量 DLP 方案,对蓝队快速定制数据保护策略有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)