Can AI Oversight Be Zero Knowledge?
本文研究一个交叉性问题: 当 AI 系统基于机密数据产生输出时(论文举的两个例子是: 依据医疗记录给出适岗/履职能力评估, 以及依据分子的秘密结构预测候选药物的性质), 我们既希望验证这些输出是否计算正确, 又不希望泄露底层敏感数据。已有的
#cryptographic-proofs
共收录 3 条相关情报。
← 返回所有主题Cryptographic certificates of validity for trustworthy AI
该论文针对当前AI智能体系统在可信执行与合规验证方面的挑战，提出了一种基于密码学有效性证书的新颖方案。核心思想是：首先将智能体应满足的正确性或策略条件形式化为逻辑谓词；然后将该谓词编译为多项式约束上的证人（witness）检查问题；最后利用
Adversarial procurement in blockchains
该论文研究了区块链协议中一种新兴的设计模式：利用执行任务与验证任务之间的计算不对称性（例如，SNARKs 等密码学有效性证明需要证明者耗费大量计算，而验证者只需少量计算）。在这种模式下，协议需要在假名、对抗性环境中高效地征集昂贵任务的执行者