#slm

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Yanmeng Wang, Yunxuan Li, Shilong Fan, Yuhan Zheng, Tsung-Hui Chang

随着本地小语言模型(SLM)与能力更强的云端大语言模型(LLM)协作日益普遍,一个自然的隐私问题浮现:本地 SLM 能否在获得云端 LLM 指导的同时保护用户隐私?现有隐私保护 SLM-LLM 框架主要隐藏敏感数值而保留任务语义,但任务语义本身仍会泄露用户意图。例如,跨医院分配稀缺医疗物资可能暗示公共卫生紧急事件,再平衡投资组合可能暴露私人投资策略,即便姓名与数值已被隐藏。近期基于诱饵(decoy)的方法把真实请求混入候选中以掩盖意图,但更强保护依赖更多诱饵或语义抽象,会推高开销或造成效用损失。更根本的是,现有工作没有系统刻画私有任务意图的组成,以及各组成部分应如何被保护。本文提出 task-private consultation 这一设定,将任务意图拆解为两个组成部分:任务上下文(task context)与任务操作(task operation)。作者称这是首个系统研究这两部分及其单独与联合保护的工作,面向本地-云端 SLM-LLM 咨询场景。为落地该设定,作者提出 PriCon 端到端框架,通过可恢复的数学重构(recoverable mathematical reformulation)直接变换任务本身,而非把任务藏在候选中;并设计本地闭环细化机制,在咨询全过程中维持隐私性与可恢复性。在 100 个任务上的实验显示,PriCon 将云端侧任务意图推断 Hit@1 降至接近 0%,而仅移除敏感值的方法为 93-99%,基于诱饵的保护为 3-30%,同时保持云端辅助效用。适合隐私保护机器学习、分布式/边缘推理、LLM 协作安全与合规审计方向的研究者与工程师阅读。

💡 推荐理由: 任务意图泄露是本地-云协同推理中长期被低估的隐私面。PriCon 给出可量化的意图保护指标与可恢复重构思路,可用来评估现有脱敏与诱饵方案的不足,并指导设计更安全的 SLM-LLM 协作协议。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Abir Ashab Niloy, Ahmed Ryan, Imamul Hossain Rafi, Md Erfan, Md Rayhanur Rahman

该论文针对多阶段网络攻击检测中缺乏同时覆盖系统、网络和浏览器日志的标注数据集的问题,构建了一个包含约230万条事件、870个会话(70个攻击会话、800个正常会话)的多源日志数据集。数据集在Windows端点同时捕获系统、网络和浏览器活动,并利用MITRE ATT&CK框架为恶意事件标注了12种战术和53种技术的技术ID。攻击数据使用真实工具生成,包括远程访问木马、命令与控制隧道和云数据泄露。为验证数据集的可学习性,论文使用低秩适配(LoRA)微调了三个小语言模型(SLM):Qwen2.5-1.5B、Llama-3.2-3B和Phi-4-Mini,在分块分类和ATT&CK技术识别两个任务上评估性能。结果显示,微调后所有模型在所有指标上均优于基础版本,分块分类准确率从约8%提升至90%-97%,但技术精确匹配准确率最高仅为42%,部分匹配分数较高表明模型学到了大部分推理逻辑。该研究填补了现有数据集在涵盖三种日志源并具备ATT&CK技术级别标注方面的空白,为多阶段攻击检测的机器学习方法提供了宝贵资源。

💡 推荐理由: 此前缺乏同时覆盖系统、网络和浏览器日志且带有ATT&CK技术标注的公开数据集,该工作填补了这一空白,有助于训练更准确的跨源攻击检测模型。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)