#local-llm

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Zhuowen Liu, Zhixuan Wang

该论文针对安全运营中心(SOC)告警量远超分析师处理能力的现实困境,聚焦于一类特殊但普遍受限的部署场景:组织因合规或数据主权要求,无法将遥测数据上传到托管式大模型,只能在本机构硬件上使用小参数开放权重模型(如 Qwen2.5、Llama-3.1 系列)来自动化告警分级(alert triage)。作者指出当前 LLM 智能体的根本设计缺陷在于把"调查流程"本身交给模型自行决定,而小模型在这种开放式搜索中表现很差:它们会不断发起探测却始终不收敛,从不给出明确判定,或者把真实攻击误判为无害。为此论文提出 HESP 控制器,其核心思想是把调查流程从模型内部搬到模型外部,由控制器而非模型来掌握流程结构。HESP 具备四项机制:(1)维护一份互相竞争的"解释台账"(ledger),记录对同一告警的多种可能解释;(2)以"单位成本期望信息增益"为准则选择只读探测动作,避免无意义或高代价的查询;(3)只接受有当前证据支撑的判定结论,防止模型凭先验臆断;(4)控制器自身拥有终止调查的权力,可主动结束流程;(5)在每次观测发生之前先把预测写入日志(journal),形成可审计的预注册记录。作者在受控的分级测试环境中开展了四项预注册研究,覆盖两个模型家族、五种开放权重模型(7B 至 72B),累计 7,272 个经审计的 episode。使用由无 LLM 运行统计得到的似然表时,HESP 将 Qwen2.5-7B 的验证完成率从 0.125 提升到 1.000,达到 oracle 表水平;信息增益排序机制在每一个能够自行得出结论的模型上都带来 +0.26 至 +0.35 的提升;而控制器侧停止机制则把完全无法自行收敛的 Llama-3.1-8B 从 0 提升到 0.917。论文由此得出关键结论:"探测什么"与"何时停止"是两类相互独立的失效模式,不同小模型表现出不同的短板。由于 HESP 及其规划器完全在本地硬件上运行,适用于遥测不可出域的隔离环境。作者开源了全部代码、协议与 episode 日志。

💡 推荐理由: 大量政企与关基单位因数据合规无法调用云端大模型,只能本地小模型做告警分级,而小模型普遍存在不收敛、不给结论的问题。该工作把调查流程与终止判据从模型侧剥离到控制器侧,并给出可审计的预注册日志,为本地化 SOC 自动化提供了可复现的工程范式与评测方法。

🎯 建议动作: 研究跟进:阅读论文并复现其开源协议与 episode 日志格式,评估在本单位本地模型与告警语料上的可迁移性

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: To Duy Hinh, Nguyen Le Quoc Anh, Phan Van Tri, Khuong Nguyen-An

该论文针对越南《个人数据保护法》(第 91/2025/QH15 号) 及第 356/2025/ND-CP 号议定 (2026 年 1 月 1 日生效) 强制要求组织建立并维护《处理活动记录》(RoPA) 这一合规义务展开研究。RoPA 的痛点有两方面:一是人工编制极其耗时耗力,需要从隐私政策、合同、系统文档等异构材料中逐条抽取处理目的、数据类别、数据主体、接收方、保留期限等字段;二是主流云托管大模型方案会把敏感数据送出境外,与数据主权和本地化要求相冲突。为此作者提出 RoPA Manager 系统,采用混合检索增强生成架构:先以 tsvector 上的词法排名做稀疏检索,同时进行稠密向量语义检索,再通过 Reciprocal Rank Fusion (RRF) 融合两路结果,最后交由本地部署的大语言模型完成字段级信息抽取,全程不依赖外部云服务。作者同时构建了一个越南语 RoPA 基准数据集,覆盖 32 个组织、77 项处理活动、12 个字段组和 4,338 个参考值。评估分三个层次报告:(1) 自动评分器在不调用 LLM 的情况下对扰动数据测试,F1 达到 0.9493,95% 置信区间 [0.9436, 0.9548],作者明确指出这只反映评分器自身的稳健性,而非端到端抽取准确率;(2) 端到端抽取相对参考标签的 token 覆盖率仅为 50.04%-55.25%,说明端到端质量仍有明显提升空间;(3) 两位独立专家复核了 1,558 个参考值 (占基准的 35.9%),未发现错误值,专家间一致率 99.68%,PABAK 为 0.9936;论文也承认未测量值级别的精确率。在 24GB GPU 上进行的 32 组配对场景对比显示,本地部署的 Qwen3.5-27B-GPTQ-Int4 与云端 DeepSeek-V4-Flash 差异无统计学显著性 (DeepSeek 领先 0.20 个百分点,95% CI [-0.93, 1.32],p = 0.72),而 Gemma-4-31B 表现显著更差 (p < 0.01)。该工作为受数据主权约束的隐私合规自动化提供了可复现的基准与本地化方案。

💡 推荐理由: 隐私合规自动化与数据主权是硬性监管要求。该研究给出可本地部署的 RoPA 抽取流水线、越南语基准与分层评估方法,对数据出境受限行业构建合规 AI 工具具有直接参考价值。

🎯 建议动作: 研究跟进,并纳入内部隐私合规自动化方案评估

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)