#policy

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Samar Ansari

本文关注一个正在被政策与安全圈忽视的治理错位问题:当前主流的算力治理(compute governance)本质上是一种「训练治理」——在用的算力阈值、申报义务和前沿 AI 监管框架都挂在训练算力上,并把「训练完成的模型」当作监管单元。作者指出这幅图景不完整:随着推理时扩展(inference-time scaling)、智能体式脚手架(agentic scaffolding)和模型压缩到消费级硬件的普及,能力正在向部署阶段迁移,监管对象也从「训练运行」变成「推理调用」。论文要回答的核心问题是:当监管对象位移到推理调用之后,究竟有哪些机制真正可用?为此作者构建了一套推理时机制的可行性分类学,覆盖监测(monitoring)、验证(verification)与执法(enforcement)三大簇,共二十种机制;每种机制基于四家厂商的书面证据,按四点式就绪度量表打分。随后作者用一个二维对手模型对分类学做压力测试(三个能力层级 × 四种对手角色),并把每种机制映射到四种治理场景:国内监管、双边或多边协调、行业自律、算力市场治理。主要发现有三:其一,二十种机制中有十五种今天已有商用技术底座在生产环境中运行,但「治理级保证」与对抗鲁棒性差异极大,不能一概而论;其二,这种就绪度只在「配合型部署者 + 低到中等能力用户」的前提下成立,面对高能力国家级部署者没有任何机制被评为足够,且微调会移除执法簇中依赖模型内部的组件,不过平台外部控制仍可能存续;其三,作者用替代分析把该分类学与姊妹篇硬件论文连接起来,提出一条「条件替代原则」,说明推理阶段机制与硬件阶段机制在何种明示条件下可提供可比的监管覆盖。此外,作者对就绪度评分随机子集做了第二评分者信度检验,二次加权 Cohen's kappa 为 0.74,表明评分具备可接受的一致性。论文属于政策—技术交叉类研究,既不是漏洞披露也不是攻击技术,适合 AI 治理研究者、合规与政策团队、以及做模型部署安全评估的工程师阅读。

💡 推荐理由: 它把「模型上线后还能管什么」拆成可核对的二十个控制点并给出就绪度与对抗边界,明确指出高能力对手与微调场景下治理手段会失效,对做 AI 部署安全评估和合规落地的团队有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 8.5
Conf: 50%
👥 作者: Bahman Sistany

自动化漏洞发现技术已经大大降低了寻找漏洞的专业门槛,使得以往依赖专家稀缺注意力的“保护”不再有效。当前行业重点放在漏洞的发现与修复上,且两者的成本都在下降。本文作者认为,决定系统暴露程度的关键并非单纯的成本曲线,而是发布决策时的“修复覆盖率”(remediation coverage)——即在产品发布前已识别漏洞中被修复的比例,以及组织决定带到发布中的已知、已评估但未修复漏洞的残留部分。文章进一步提出四个论点:第一,这些残留漏洞并非所有已发现漏洞的随机样本,因为分诊(triage)会按修复成本排序,而成本高昂的情况通常具有架构性根源,难以快速解决;第二,被推迟处理的漏洞积压本身就是一项具有高价值的情报资产,反映出组织技术债和风险偏好的深层次信息;第三,当内部文件记录了对漏洞的知晓,就会在法律和市场上改变组织的地位,形成逆向选择——软件价格无法体现这一风险;第四,现有的监管工具均依赖于第三方观察到的利用行为,没有任何一项会在“内部获知”时触发,于是厂商知晓的内容与其必须披露之间的差距完全由厂商自己掌握。文章还研究了CISA的《约束性操作指令26-04》(Binding Operational Directive 26-04),将其视为能说明解决方案必备条件的唯一例外。最后,作者指出“发布覆盖率”目前并不被度量,而度量和公开它正是让责任、保险和采购机制发挥作用的前提条件。

💡 推荐理由: 提醒安全团队:仅仅加速发现和修复并不足以降低真实暴露;必须在发布决策中度量并管控已知未修复漏洞残留,并警惕内部记录引发的法律与合规风险。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhonghao Zhan, Hamed Haddadi

本文指出当前自我进化的技能库(如 AutoSkills、Hermes Agent)在自动生成编排建议时仅关注效率提升,而忽略了安全性的关键缺口。作者认为,技能(Skill)描述的是代理应如何行为,而策略(Policy)决定了哪些行为被允许成为实际行动。现有的技能格式(如 Markdown 和脚本)仅覆盖了前者,后者则由模型自行推断。当技能被错误调用时,可能产生解锁房门或转账等严重后果。虽然已有研究分别记录了恶意技能危害云软件、以及越狱大语言模型控制的机器人造成物理伤害,但两者的交叉——恶意代理技能导致物理伤害——尚未被报告。作者将此类问题命名为“借用权威”(Borrowed Authority):技能格式未给接收代理提供类型化的方式拒绝代理间的权限声明,因此恶意或误用的技能可通过附加权限请求来驱动执行。为解决这一问题,作者提出边缘技能守卫(Edge Skillguard),这是一种位于技能工件内部的类型化权威层,与工作流引擎置于工具之间的方式不同,它通过世界状态和传感器证据进行守卫。在实时边缘控制平面测试台上,该守卫在五个攻击变体中拒绝了60/60的借用权威请求,且未阻塞正常请求;在5倍规模及跨主机(Tailscale mesh)环境下结论依然成立。实验结果建议,高风险技能应将类型化调用策略与程序性知识打包,使物理行动依赖于机器可校验的证据,而非对等代理的声明。

💡 推荐理由: 该研究揭示了 AI 代理安全中的新攻击面:恶意技能可利用权限继承缺陷直接驱动物理设备,导致实际物理伤害。它强调了将策略与技能分离的必要性,为边缘智能和具身智能的环境安全提供了前瞻性防御方向。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 8.4
Conf: 50%
👥 作者: Muhammad Mubeen, Arslan Bisharat, Giri Anandhi

该论文系统性地探讨了企业如何避免非法数据访问,强调数据安全对各类规模组织的重要性。研究指出,随着技术发展,未授权访问风险持续增加,企业需要采取主动措施。论文主要从三个维度提出综合防护策略:技术解决方案、员工培训和政策执行。技术方面,防火墙作为内部网络与互联网之间的保护边界,入侵检测系统(IDS)可监控可疑行为并及时告警,加密技术则能确保即使数据被截获也无法被解读。员工培训方面,强调教育员工识别钓鱼邮件、恶意网站等威胁,并掌握正确的密码使用和其他安全操作习惯。政策方面,建议组织制定并实施明确的数据和系统使用规范,规定违规后果,并定期评估政策的时效性和有效性。论文认为,通过集成上述措施,企业能够显著降低数据泄露风险,并满足合规要求。整体来看,该研究属于综述性质,未提出新架构或实验数据,但整合了常见的最佳实践,为组织构建数据安全基线提供了参考框架。

💡 推荐理由: 数据泄露是蓝队持续关注的重大风险。该论文从技术、人员、管理三重角度给出系统性防护思路,与纵深防御理念一致,适合用于内部安全策略的查漏补缺。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)