#containment

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Yoshiaki Takashita

本文研究如何为防御者设定可量化的信息泄露速率上限,以限制智能体在多轮交互中逐步拼接敏感信息。前作指出需阻断的量有单位——每周期比特数,本文设定该速率。核心机制为“临时可达性”:把每次跨边界访问暂存一个周期,对暂存项以概率 r 独立审计,任一审计命中即撤销整个窗口。对抗者 k 次跨越、每次 c 比特,期望泄露 kc(1-r)^k,在 k*=1/ln(1/(1-r)) 最大,得每窗口界 L(r)~c/(er);该界对对抗者策略取上确界,因此方案可公开,仿真与理论吻合到 7.7 个标准误。作者强调这只是速率而非总量:仅暂存仍会让秘密在每次运行中成功组装。若秘密每周期以比例 μ 衰减,持有量收敛到 g/μ,L 比特秘密在 μ>g/L 时不可达——Eigen 式误差阈值,闭式预测位置精确 (20,000 窗口:0.9μ* 时 100% 组装,2μ* 时 0%)。依赖对抗者推理失败的欺骗无效:命名撒谎的表面准确率仍为 18/18,三种 reader 强度下 100%。扣留引用有效但机制不同:没有 reader 会提交。键控入口仅隐藏模块行为的 0.10 比特;键控指称在随机准确率下隐藏 2.64/3.00 比特,且 100% 的 reader 仍视其为普通 Python。方差须从审计率移除 (收益对 r 凸),加入激活预算 (生存乘法:固定均值下灭绝 70%→100%)。端到端栈将泄漏从 100,000 比特降至 59 比特 (1,704 倍),保留 12% 合法工作;将窗口密钥绑定到调用者可无泄漏代价恢复至 100%,代价是界按主体计算。对 65 个只读工具,暂存后每次调用仍留 2,400 比特,因子 10 而非无穷。

💡 推荐理由: 为 agent 安全提供首个带单位的信息泄露速率边界与误差阈值,说明单靠暂存/审计不足以阻止长期秘密组装,必须引入衰减或调用者绑定密钥;对设计 LLM agent 沙箱、工具调用权限与代码访问控制有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yoshiaki Takashita

这篇论文 (cs.NI) 讨论一个被普遍忽视的安全度量偏差: 围堵 (containment) 决策——防火墙放在哪里、监控哪些链路、程序能触及什么——通常基于对系统结构的某一次观测快照来计算, 而真实的连接关系 (wiring) 会随时间变化, 快照因此系统性低估了需要切断的边数。作者用一个活跃维度随时间轮转的超立方体作为模型: 在任一时刻做平衡分割, 93% 的瞬间看起来没有任何跨割边, 但要把两个部分永久隔离, 必须长期封堵 8192 条边; 若再叠加一个始终在线的环, 防御者只看得见 2 条需要封堵的边, 而实际需求是 8194 条, 差距高达 4097 倍。引入时间感知的防御者可以把平均封堵数降到 585 条, 但只要时钟延迟一步, 其围堵效果立刻跌到 0%。作者随后检验真实互联网: 在剔除规模增长因素后, 1997-2000 年的差距仅约 1.8-2.0 倍, 2024-2026 年约 1.5-1.6 倍, 说明这种盲区并非客观世界固有, 而是设计引入的——光学数据中心网络的轮转 (round-robin) 调度, 其盲区大小恰好等于调度周期。作者提出以"声明式能力地图 + 对真实应用调用图做静态可达性分析"替代字符串黑名单: 在测试中前者抓出全部 8 个植入的漏洞通路, 后者只抓到 2 个。更值得注意的是, 所有数值都可以由单一参数 (周期) 通过同一个计算推出, 并由此映射到三个平时不被当作"调度"的边界场景: 跳频通信 (其经典结论正是这些闭式解, 只是把边换成信道)、气隙隔离 (其常开跨越集为空, 已知的突破恰好发生在快照看不到的那个相位)、以及编码智能体 (coding agent) 的工具面清点。把同样的割集分析用于智能体: 空闲时其瞬时状态割为零, 但有 6 条通道能让它跨越上下文重置, 且没有一条是网络——因此切断网络能减少的围堵量为零。负责派生副本的通道是一个分支过程, 在批准率 1/b 处存在尖锐阈值: 低于阈值时拒绝没有必要, 高于阈值时拒绝也不足以遏制。论文的核心主张是: 应按"实际存在的可达路径"而非"曾观测到的行为"来做围堵。

💡 推荐理由: 蓝队的围堵与分段策略普遍建立在一次性的拓扑/资产快照上, 论文用可复现的模型证明这种静态视角在动态布线 (含光交换、跳频、气隙相位切换、智能体上下文重置) 下会产生数量级的高估或漏判, 提示以可达路径而非观测行为重新设计检测与隔离逻辑。

🎯 建议动作: 研究跟进: 将周期化可达性建模方法纳入内部网络分段与智能体权限评估流程, 复现其阈值与盲区结论后更新围堵策略基线

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)