#oracle-aided-computation

共收录 1 条相关安全情报。

← 返回所有主题
推荐 8.5
Conf: 50%
👥 作者: Alessandro Chiesa, Ziyi Guan, Burcu Yildiz

本文研究一个交叉性问题: 当 AI 系统基于机密数据产生输出时(论文举的两个例子是: 依据医疗记录给出适岗/履职能力评估, 以及依据分子的秘密结构预测候选药物的性质), 我们既希望验证这些输出是否计算正确, 又不希望泄露底层敏感数据。已有的一类工作研究如何通过交互式证明(interactive proofs)与辩论式监督(debate)来验证「带 oracle 的计算」(oracle-aided computation), 这里的 oracle 可以是人类判断、物理实验或互联网检索, 即计算正确性本身依赖于外部 oracle 的回答。这些工作的关注点是让验证者的运行时间远快于被验证的计算本身, 但对一般的带 oracle 计算, 这种高效验证被证明是不可能的, 因此它们必须引入额外假设。本文把关注点从「省时」转向「隐私」: 允许验证者运行与计算同阶的多项式时间, 进而追问——针对带 oracle 计算的交互式论证能否做到零知识, 使验证者除了「输出是正确的」之外学不到关于机密数据的任何信息。作者给出了否定性的主要结论: 一般而言不能。在随机预言机模型下, 不存在能覆盖所有带 oracle 计算的零知识证明, 即便证明者与验证者被允许运行远长于被验证计算的时间; 这一不可能性结果还延伸到 debate 模型, 而 debate 是可扩展监督(scalable oversight)的典型范式。在正面方向上, 作者证明: 如果 oracle 对它的每一个回答都附上密码学签名, 那么任何带 oracle 的计算都能以零知识方式被验证, 且证明者与验证者都是高效的, 所需假设仅为抗碰撞哈希函数。除隐私之外, 该结果还提供了一条可扩展监督的替代路径: 它既不像 debate 那样依赖存在一个诚实的对手方, 也不像以往单证明者协议那样依赖计算本身的鲁棒性。整体上, 论文用不可能性与构造性结果划出了「AI 监督能否零知识」的边界条件——关键在于 oracle 的回答是否可被密码学认证。

💡 推荐理由: 它给「机密数据上验证 AI 输出」这一命题划出了清晰边界: 无签名的 oracle(如人类判断、物理实验)原则上无法零知识验证, 而给 oracle 回答加签名即可实现高效零知识验证。这直接影响 AI 审计与可扩展监督的协议选型。

🎯 建议动作: 研究跟进: 纳入内部 AI 审计与零知识验证方案的理论参考, 评估签名 oracle 假设在现有工程链路的落地可行性。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)