#screen-share

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Asmita Negi, Neeraj Kumar Singh Beshane

本文针对「实时屏幕共享型 AI 助手」的隐私治理难题提出 PerceptFence。这类助手需要持续读取用户的原始屏幕画面与语音流,但用户几乎无法在运行时控制助手可以观察、记忆或对外披露哪些内容。作者指出,仅靠提示词层面的隐私开关是无效的,因为敏感信息是通过采集通道(屏幕像素、语音、OCR 文本)进入系统的,提示层根本看不到也不掌握这些数据。PerceptFence 的设计是在「采集层」与「记忆层/模型响应层」之间插入一个内容中介层(content-mediation architecture),对流入模型上下文的感知内容做统一的内容级判定与中和处理;论文同时给出了一套确定性的合成夹具(synthetic-fixture)评测脚手架,用固定种子、固定规则保证结果可复现。作者明确声明该工件不包含真实采集、类别推断、经认证的再授权、跨会话状态以及外部模型适配器,因此属于架构与评测方法的贡献,而非可直接部署的系统。评测分两阶段:第一阶段用 9,600 条有协议文档记录的对抗字符串,由独立实现的 exposure oracle 打分,在双方共同运行的 5 个种子上,PerceptFence 对「数字型 PII」载荷的中和率为 0.828,而 Microsoft Presidio 为 0.183;但在该族之外 Presidio 反而领先(0.238 对 0.154),因此总体 0.398 对 0.260 的对比只能视为参考性、非定论。第二阶段更贴近真实部署路径:用 Chrome 渲染 480 张合成的开发者支持工单截图,加入退化处理后交给 OCR 读取,规则在测试前冻结,并留出三种屏幕类型做留出验证;PerceptFence 中和了 968 个经 OCR 仍存活下来的密钥与 PII 值中的 889 个(0.918,Wilson 95% 置信区间 0.899–0.934),对比 Presidio 的 0.581 与 gitleaks 的 0.179;在留出屏幕类型上达到 0.974,代价是这些类型上任务 token 保留率为 0.763。作者强调该工作的贡献是有文档记录的中介架构与带显式覆盖边界的评测方法,并不宣称已实际部署、形式化隐私保证、新的脱敏原语或通用模型鲁棒性。

💡 推荐理由: 屏幕共享与语音是 LLM 助手最容易被忽视的数据入口,提示词级防护对此无效。本文给出了「采集中介层 + 可复现确定性评测」的可借鉴范式,并提供了 OCR 链路下密钥/PII 泄漏的量化基线(0.918 对 gitleaks 0.179),对做 AI 助手数据防泄漏的团队具有直接参考价值。

🎯 建议动作: 研究跟进:将内容中介层与确定性评测方法纳入内部 AI 助手数据防泄漏方案评估,并在自研链路上复现其覆盖度测量方法。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)