#operating-system

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Jonghyun Chung, Sanket Badhe

本文聚焦于操作系统集成的本地AI(On-Device AI)的隐私边界问题。作者指出,当前隐私讨论常将“本地运行”视为隐私保障的充分条件,但这一观点过于狭隘。本地AI助手可能整合邮件、日历、文件、截图、通知和应用程序意图,保留嵌入或摘要,调用工具,发送遥测数据,或将复杂请求路由到云端。本地推理减少了部分暴露风险,但仅回答了“计算发生在何处”的问题,而未能解答“谁可以聚合上下文”、“哪些派生状态被持久化”、“哪些操作被授权”以及“更新如何改变系统权限”等关键问题。为此,论文提出了一个以操作系统为中心的隐私框架,将隐私视为制度性问责问题而非部署属性。框架包括:威胁模型、六部分隐私风险分类学、隐私架构控制以及四级审计评估标准。作者通过对Apple Intelligence/Foundation Models、Android AICore/Gemini Nano和Microsoft Recall三个案例的文档有限比较,展示了审计标准的应用。论文强调,有意义的隐私取决于受限的信息流、有限的权限、可见的用户控制以及跨操作系统生命周期的可审计治理。该研究为系统设计人员、隐私工程师和政策制定者提供了理论指导,适用于智能助手、智能操作系统等场景。

💡 推荐理由: 随着AI深度嵌入操作系统,本地运行不再是隐私的万能钥匙。该论文首次系统化地指出了OS级AI面临的隐私缺口,并提供了可操作的分析框架,对蓝队评估内部AI集成风险具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)