#inconsistency-detection

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Duc Bui, Brian Tang, Kang G. Shin

本文提出了一种自动检测浏览器扩展隐私实践不一致性的系统 ExtPrivA。浏览器扩展在提供额外功能的同时,能够访问并收集用户数据。尽管扩展通过多种形式(如隐私政策和仪表板披露)告知用户其数据实践,但现有研究忽视了实际数据收集行为与隐私声明之间的潜在差距。ExtPrivA 通过从隐私政策和仪表板披露中提取隐私声明,形成对扩展隐私实践的清晰解释;模拟用户交互以触发扩展功能,并分析网络请求的发起者,准确识别从浏览器发送到外部服务器的用户数据。端到端评估显示,ExtPrivA 能以 85% 的精确率检测隐私声明与实际数据收集行为之间的不一致。对 Chrome Web Store 上 4.72 万个扩展的大规模研究发现,820 个扩展存在 1290 个与隐私声明不一致的数据流;更严重的是,360 个扩展的仪表板披露和隐私政策中发现了 525 对矛盾的隐私声明。这些差异被视为严重违反商店政策,可能误导用户并构成高隐私风险。本文工作揭示了浏览器扩展隐私声明中的关键问题,为提升扩展生态的隐私透明度和合规性提供了技术手段。

💡 推荐理由: 浏览器扩展的隐私声明与实际行为不一致会误导用户并违反平台政策。ExtPrivA 提供了一种自动化验证手段,帮助安全分析师和平台监管者发现隐藏的隐私风险。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Wenhui He, Yue Li, Bang Fu, Huan Xing, Xing Fan, ZeHua Zhang, Baoning Niu

该论文研究大型语言模型(LLM)生态系统中以代码实现的技能(programmatic skills)的描述与实现不一致性问题。这类技能通常包含自然语言描述和可执行代码文件,用户或LLM依赖描述来理解其功能范围,但实现代码可能执行描述中未声明的安全相关操作(如凭据访问、网络通信、命令执行)。作者首先手动分析了920个真实世界的程序化技能,构建了一个包含11类安全属性的分类法(security property taxonomy),涵盖文件操作、网络通信、进程执行、编码/解码、代码执行、Shell命令、凭据访问、加密操作、持久化、系统信息收集等行为。基于该分类法,他们提出了SKILLSCOPE方法:从技能实现代码中构建源代码级安全属性图(Security Property Graphs, SPGs),SPG节点保留源代码层面的具体模式而非抽象分类标签,从而保留细粒度的证据;然后利用LLM辅助进行一致性检查,判断实现代码的安全相关行为是否超出了描述中声明的范围。在4556个程序化技能上,经过双盲人工审核,SKILLSCOPE识别不一致的精确率达到84.8%,召回率达到96.5%。确认不一致的技能占9.4%,而描述粒度较粗但实现细节仍在声明范围内的案例占24.3%。消融实验表明,分类法将精确率从87.8%提升至(原文未提及,但在摘要中实际影响是去除分类法后精确率降至72.3%),去除SPG则召回率从94.7%降至79.0%。该工作首次系统性地关注了LLM技能描述与实现之间的安全语义鸿沟,为构建更可信的LLM技能生态提供了检测方法。适合安全研究人员、LLM平台开发者、以及关注AI供应链安全的人员阅读。

💡 推荐理由: 揭示了LLM技能中描述与实现不一致的安全风险,提供了一种自动化检测方法,有助于提升AI供应链安全。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)