#ml-integrity

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Roberto Fernández-Barrios, Iker Pastor-López, Amaia Pikatza-Huerga, Pablo García Bringas

该论文针对“混合量子—经典工作流”的完整性验证,提出一套“主张相对(claim-relative)”的证据/参照框架。核心问题是:当篡改或系统性偏差只改变标签通路(label path),而不改变可观测的特征/预测视图时,防御方能否仅凭观测数据判定完整性已被破坏。作者指出,观测不可区分性会造成“结构性盲区”,它与有限批次抽样导致的统计漏检有本质区别:前者原理上无法靠增大样本量弥补,后者只是样本量不足。论文在一个显式声明的格(lattice)结构内论证了不同强度完整性目标所需的最小可信参照:只需保证结论(conclusion)完整性时,一个可信的同批次标量 R0 即可;需同时覆盖聚合(aggregate)与结论时需聚合量 M0;需保证条目身份(item identity)时则需条目对齐绑定。实验方面,在 3,600 次标签干预下,特征/预测视图实现了精确的标签通路不变性;全部 764 条几何对齐的聚合盲区行与其配对干净响应完全相等,攻击专有增量为零。在统计响应侧,几何对齐构造配合 conformal 规则在 2,700 次改变结论的标签干预(τ→0+)中检出 343 次,未校正的并集规则检出 1,183 次;而原始冻结的同条目几何仅分别检出 11/2,617 与 43/2,617。执行后 conformal 干净误动作率为 0.048–0.059(描述性),其有限样本保证依赖可交换性假设,而重叠抽取设计违反了该假设。保留聚类的自适应压力测试(Gate A)在 40 个环境/切分单元中的 25–40 个单元上相比匹配对照降低了响应,同时仍保留结论变化。限定的 165 个设计单元的理想态矢量与有限采样仿真分支,直接实例化了语义核、估计核与观测核的转移。作者强调,固定等权设计既不能估计部署流行度,也不能给出 QPU、供应商或已部署服务层面的保证。

💡 推荐理由: 揭示“观测不可区分”造成的结构性完整性盲区:仅靠输出/日志侧检测无法发现某些标签通路篡改;对混合量子—经典流水线审计与 conformal 风险控制的可信边界判断有直接参考价值。

🎯 建议动作: 研究跟进:纳入内部评估,重点复核自身量子/混合流水线与 conformal 风控中的参照层级与抽样前提。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)