#security-framework

共收录 5 条相关安全情报。

← 返回所有主题
👥 作者: XiuYu Zhang, Bonan Ruan, Junfeng Fang, An Zhang, Tat-Seng Chua, Zhenkai Liang

本文提出了一种名为 Language Model Security Modules (LMSM) 的安全框架,受 Linux 安全模块 (LSM) 的架构启发,旨在解决大型语言模型 (LLM) 部署中分层防御仍可能被恶意提示绕过的问题。研究者指出,现有可解释性方法能够暴露模型生成路径上的内部信号,但这些信号本身并非安全控制;若将其用于安全防护,通常需要为每个信号单独编写校准、策略逻辑和干预代码,导致集成成本高且无法形成统一防御。LMSM 将 LSM 的职责分离思想引入 LLM 服务流程:选定的安全后端提供校准证据,带版本化的策略引擎基于可信的每请求上下文评估活动规则,独立的门控模块则授权缓冲输出的释放。这一设计将仲裁正确性与策略有效性解耦,允许在不重建请求处理或强制逻辑的情况下更换后端、规则或调度策略。原型实现基于 Hugging Face Transformers 和连续批处理 vLLM,验证了同一基础设施可承载基于稀疏自编码器 (SAE)、transcoder 以及任务适配密集探针的多种部署,并在调度器扰动下保持请求级决策的一致性,同时支持每条请求选择性执行和组合多条规则。在 Qwen3-4B 模型上,LMSM-Checkpoint 将 HarmBench 攻击成功率从 39.20% 降至 3.32%,XSTest 误拒率从 2.40% 上升至 4.40%,且在 32 个活动序列下保留了无监控服务路径 98.14% 的吞吐量。该框架为可解释性和模型内部分析的进展提供了通往运行时强制执行的统一路径。

💡 推荐理由: 为 LLM 运行时安全提供了一种可扩展的模块化框架,能统一多种安全信号并降低集成成本,同时保持高吞吐,对实际部署防线建设有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Bohao Liao, Jingchao Wang, Qipeng Song, Jin Cao, Jieling Wang, Boyu Deng

本文提出 TraceGrant,一个面向网络化大语言模型(LLM)智能体的合同化安全治理框架。网络化 LLM 智能体从电子邮件、云存储、日历、交易平台和 Web 服务检索信息以完成多步骤任务,这些任务会产生持久的外部效应。合法执行所需的内容中可能同时包含间接提示注入,从而重定向工具调用、篡改敏感参数或破坏任务完成。现有防御主要约束不受信内容或单个工具调用,未能充分连接用户意图、运行时证据、实际效果和任务完成状态。TraceGrant 通过显式契约(Contract)在任务-效果生命周期内实施治理。执行前,从受信任的用户请求中建立任务-效果边界;执行中,被接受的证据只能实例化契约已授权的权限;执行后,根据实际工具结果验证任务完成情况。在固定基准设置下,针对949个 AgentDojo 和400个 Agent Security Bench 攻击案例,TraceGrant 记录零攻击成功,同时分别在77.32%和83.00%的攻击率下保持可用性。作者还通过白盒防御感知攻击、契约质量分析、阶段消融、定向压力测试和运行时开销测量进一步评估 TraceGrant。结果表明,TraceGrant 提供了一个统一的治理层,将受信任的用户意图、运行时证据、具体工具执行和经过验证的任务完成连接起来。该论文适合对 LLM 智能体安全、提示注入防御和形式化安全契约感兴趣的蓝队和安全研究人员阅读。

💡 推荐理由: 针对网络化 LLM 智能体的间接提示注入是当前实际风险,TraceGrant 通过显式契约将用户意图、运行时证据和任务验证统一治理,为构建可审计、可验证的智能体安全边界提供了新思路,值得防御方关注。

🎯 建议动作: 研究跟进:关注后续验证实现和可迁移性,评估是否可用于自身智能体安全架构

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ravi Kant Sharma, John Owens, Kevin Kiernan

该论文提出了一种基于3GPP标准的GNSS欺骗检测框架,专门针对时分双工(TDD)移动网络。TDD网络要求严格的同步精度(±1.5μs,依据3GPP TS 38.104),而GNSS驯服的grandmaster时钟是主要的定时源。GNSS欺骗已成为一种已文档化的运营威胁,能够破坏所有下游基站的定时,但当前的3GPP管理框架(SA5)和安全框架(SA3)均未提供标准化的检测或报告机制。本文提出的检测和监控框架运行在现有3GPP管理结构内,主要贡献包括:引入与TS 28.111和TS 28.552一致的GNSS定时告警和性能计数器;一种拓扑感知关联机制,通过分组gNB-DU(由同一grandmaster服务)来分类异常;以及一个安全事件桥接机制,将故障管理与SECHAND事件处理(TR 33.894)联系起来。蒙特卡洛模拟表明,在良好配置的PTP网络条件下,当漂移率高于0.5 ns/s时,检测概率超过95%,假阳性率低于1%。该框架无需新接口,与代际无关,并通过场景分析验证了其区分欺骗与信号丢失、设备故障和维护瞬态的能力。论文还讨论了该框架在5G及未来6G网络中的适用性。

💡 推荐理由: GNSS欺骗攻击可直接破坏TDD网络的精确同步,导致基站间干扰、容量下降甚至服务中断。该论文提供了首个基于3GPP标准的检测框架,填补了现有管理及安全标准中的空白,为运营商提供了实用的防御手段。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Bowen Xue, Samuel Laferriere

该论文针对以太坊Layer2(L2)解决方案中采用替代数据可用性(AltDA)系统时面临的安全集成问题,提出了一个端到端的验证框架。AltDA系统(如Celestia、EigenDA、Avail)为L2提供外部数据发布层,以支持高吞吐量的rollup设计。然而,将批量数据发布移出以太坊引入了一个新的共识关键集成层。现有生态系统框架虽识别了风险(如外部DA信任假设、DA验证器的存在与否),但缺乏完整的集成规范,可能导致L2停止、诚实节点间推导不一致、无效状态断言或桥攻击。论文将集成边界建模为一种类型化、确定性、全映射的转换:从L1收件箱字节到AltDA承诺,再到外部可用数据,最终到rollup有效负载。核心原则是每个对抗性输入必须导致一个定义的唯一结果。论文展示了缺失义务如何导致具体故障模式,包括欠约束结算、推导停止、诚实节点行为不一致、无效状态断言和桥安全失效。接着将框架应用于代表性AltDA集成架构(Celestia-Blobstream、基于EigenDA的设计、Avail-ZKsync),评估表明安全AltDA集成不仅取决于DA提供者或桥,还依赖于L2集成强制执行从L1收件箱输入到接受的L2状态的完整验证关系。

💡 推荐理由: AltDA集成是L2安全的关键薄弱环节,现有规范缺失导致多种严重故障。该框架提供了一种系统化方法来验证集成完整性,对L2开发者和安全审计人员具有重要指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Farzad Nourmohammadzadeh Motlagh, Mehrdad Hajizadeh, Mehryar Majd, Pejman Najafi, Feng Cheng, Christoph Meinel

该论文针对大型语言模型(LLM)驱动的应用中自然语言接口带来的SQL注入风险,提出了一种多层级安全框架。随着LLM被广泛用于将用户自然语言查询自动转换为SQL语句(Prompt-to-SQL),传统的SQL注入攻击方式得以进化:攻击者可以构造对抗性提示(adversarial prompts),引导模型生成恶意SQL查询,从而绕过基于查询字符串校验的传统防御。论文框架由三层组成:前端安全盾(Front-end Security Shield)负责对用户输入进行净化,过滤明显恶意内容;高级威胁检测模型(Advanced Threat Detection Model)利用行为和语义异常分析识别更隐蔽的攻击;特征签名控制层(Signature-based Control Layer)匹配已知攻击模式。研究团队构建了包含提示注入、混淆SQL负载、上下文操控等多样攻击场景的基准数据集,并在微调后的LLM上进行了全面评估。实验结果显示,该框架在保持低误报率的前提下实现了高检测准确率,显著提升了LLM驱动的数据库应用的安全性。论文贡献在于首次系统性地分析了LLM场景下SQL注入的新形态,并提出了一个实用的、可扩展的防御框架,为基于LLM的数据查询应用的安全部署提供了技术参考。

💡 推荐理由: LLM驱动的自然语言查询数据库正快速普及,但Prompt-to-SQL过程放大了SQL注入风险,现有防御未能覆盖。该论文系统揭示了该攻击面并提供了可落地的多层检测框架,对安全团队构建AI应用防护有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)