#conformal-prediction

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Sangdon Park 0001, Osbert Bastani, Taesoo Kim

该论文提出了一种名为 ACon2 (Adaptive Conformal Consensus) 的新型区块链预言机共识协议,旨在解决传统预言机在数据聚合和信任最小化方面的可证明性问题。区块链预言机是连接链下数据与智能合约的关键组件,但现有方案通常依赖经济激励或信任假设,缺乏严格的正确性保证。作者将共形预测(Conformal Prediction)这一统计学习框架引入区块链场景,通过自适应地调整共识阈值,使得预言机能够输出具有统计置信度的聚合结果,并提供了理论证明:在合理假设下,ACon2 能够以高概率保证最终数据的准确性,同时抵抗一定比例的恶意节点攻击。实验在模拟和真实数据上验证了该方法在吞吐量、延迟和鲁棒性方面的优势,表明 ACon2 在保持可用性的同时,显著提升了预言机的可证明安全性。

💡 推荐理由: 为区块链预言机提供了首个可证明统计安全性的共识协议,填补了形式化验证与工程实践之间的空白,对 DeFi、供应链等依赖可靠数据源的场景具有重要价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jun Wen Leong

该论文提出了一种针对已部署安全分类器的在线分布漂移监测系统。系统利用校准的序贯统计量(如加权共形预测或逻辑密度比估计)实时检测分类器的输入分布是否发生变化。一旦检测到漂移,系统会通过共形弃权层自动调整决策阈值,以恢复预设的目标错误率(ε=0.1)。作者通过预注册的析因实验评估了系统性能,覆盖4种分类器、5种漂移条件、20个随机种子和2种窗口大小(共计800个实验单元)。结果显示,系统实现了86.6%(693/800,95%置信区间[84.1%,88.8%])的有效检测率,平均检测延迟为39.5步。检测能力在三种真实漂移场景中得到验证:合成数据引入的偏移(86.6%)、真实世界的时间越狱攻击(85%,17/20)以及GCG对抗攻击。在修正阶段,加权共形预测在DeBERTa分类器上恢复了最多39个百分点的覆盖率损失(有效样本量ESS=46/300),但在其他分类器上完全失效(ESS接近300)。逻辑密度比估计在高维嵌入空间中实现了完美的源/目标分离,导致所有重要性权重被截断至下限。DeBERTa展现出了从有效修正(释义变形,ESS=46)到几乎完全失效(对抗后缀,ESS=206)的梯度变化。将特征空间PCA降维至32维后,崩溃问题得到缓解,为Llama Guard恢复了33个百分点,为ShieldGemma恢复了21个百分点覆盖率。方差分解显示,分类器(η²=0.243)、漂移类型(η²=0.237)及其交互项(η²=0.185)对检测延迟的变异均有显著贡献(所有p<0.001),表明需要对每个分类器建立单独的监测配置。

💡 推荐理由: 安全分类器在生产环境中面临分布漂移导致性能退化的问题,该工作提供了首个标准化在线监测与自适应修复框架,对LLM安全防护的持续有效性保障具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)