#interactive-proofs

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Liyan Chen, Yael Tauman Kalai, Zoe Xi

该论文针对AI安全验证问题,提出了一种避免辩论(debate)的替代方案。传统辩论方法依赖两个能力对等的AI模型相互辩论以说服人类验证者,但这一假设在实践中可能不成立(如模型能力不均或双方均不诚实)。论文首次研究了面向AI安全场景的“单证明人”交互式证明系统,并解决了现有单证明人证明无法直接迁移到AI安全环境的问题——例如当计算涉及预言机(如人类判断或外部数据库如互联网)时。作者提出了针对预言机辅助计算的双重高效单证明人交互式证明与论证,适用于两种情形:(1)计算具有鲁棒性,即当预言机查询结果中最多仅小部分错误时输出不变;(2)预言机为低阶多项式。这些结果表明,在结构化或噪声容忍的预言机访问条件下,即使没有辩论,交互式验证仍然是可行的。论文的核心贡献在于从理论层面拓展了可验证AI的方式,减少了对外部依赖(如模型对抗)的需求,为构建更可靠、可审计的AI系统提供了新思路。适合对AI安全、可验证计算、交互式证明系统感兴趣的研究者和从业者阅读。

💡 推荐理由: 提出了一种无需依赖双模型辩论的AI对齐验证方法,降低了实际部署假设的苛刻性,拓展了可验证AI的理论基础。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Liyan Chen, Matthew M. Hong, Yael Tauman Kalai, Zoe Xi

本文研究PSPACE语言的高效交互式证明系统。经典结论IP=PSPACE表明任何PSPACE语言都存在交互式证明,但验证者高效时,证明者可能需要指数时间。后续工作致力于构造“加倍高效”的证明系统,即证明者时间为T(n)的多项式,验证者时间为输入长度n的多项式。此前最好结果由Berger等人(FOCS 2025)实现,将T(n)的上界拓展至n^{O(√(log n / log log n))}。本文将该上界进一步大幅提升至n^{O(log n)},即任何T(n)=n^{O(log n)}时间内可判定的PSPACE语言均存在加倍高效的证明系统。方法上,不同于先前通过批量交互证明间接构造的复杂方案,本文直接构造了验证协议,不仅简化了证明过程,也为未来改进提供了更清晰的路径。实验上,本文是理论证明,无需实际实验。主要贡献:1)扩展了加倍高效证明系统的适用范围;2)提出了更简洁的直接构造方法;3)推动了复杂度理论中交互式证明的研究。适合理论计算机科学、密码学、复杂度理论研究者阅读。

💡 推荐理由: 虽然本质是理论进展,但交互式证明是现代密码学和可验证计算的核心构建块,本文提出的高效率协议可能间接提升零知识证明、区块链等系统的验证效率。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)