#verifiable-inference

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Zhenhang Shang, Yingzhe Yu, Kani Chen

本文研究基于再质押(restaking)协议的可验证大语言模型(LLM)推理安全问题。这类协议通过经济惩罚机制(slashing)取代了 zkML 的高昂证明成本或 TEE 的硬件信任假设,从而以较低成本实现推理的可验证性。现有安全性论证通常依赖单轮(one-round)条件:理性提供者在预期惩罚超过作弊成本节省时不会作弊。然而,本文指出当推理在相同质押下重复进行时,该条件会高估实际安全性。作者将可验证推理建模为折扣重复博弈(discounted repeated game),发现由比例削减(proportional slashing)导致的“重复博弈缺口”:(1) 被检测到的违规会降低未来的惩罚暴露,而 (2) 成本节省会在多次查询中不断累积。论文以闭式形式推导了这一缺口的大小,证明其在最小质押驱逐(minimum-stake ejection)机制下依然存在,并进一步扩展至覆盖实际部署的无记忆有界削减协议。为修复该缺口,作者提出一种可部署机制,结合历史相关挑战(history-dependent challenges)、声誉加权削减(reputation-weighted slashing)和质押归属(stake vesting),在无需逐查询密码学验证的情况下,于显式折扣因子阈值之上恢复无限时域子博弈完美激励相容性(subgame-perfect incentive compatibility),针对平稳混合策略偏离。实验评估覆盖九个从 0.5B 到 14B 参数的开源模型对,表明审计信号具有所需的凹可检测性响应。Stackelberg 审计预算分析显示,在折扣因子 0.95 时,改进的信号响应可将基线审计率降低 2.6 倍。针对已部署参数的校准表明,现有协议通过单轮激励相容性测试,但在折扣因子 0.92–0.98 之间允许重复博弈偏离,偏离利润占 1.5%–8%;而所提机制可将偏离利润降低 31%–54%,同时维持低延迟的经济验证。该研究适用于关注 LLM 推理经济安全、博弈论机制设计及去中心化基础设施的从业者与研究者。

💡 推荐理由: 首次系统揭示再质押推理协议的单轮安全论证在重复博弈场景下的漏洞,为设计真正激励相容的验证机制提供理论依据,对依赖经济惩罚的 LLM 服务方和协议开发者具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)