Calibration-Family Overfit: Why Trusted Sabotage Monitors Don't Transfer Across Lineages

本文研究AI安全控制中的可信监控（trusted monitoring）防线。可信监控依赖一个更便宜的“可信模型”对“不可信模型”的行为进行评分，以检测潜在的破坏性行为（如后门攻击）。传统评估仅针对一个或两个不可信模型报告准确率，但本文质疑

历史摘要 · 未重新核验 · arXiv cs.CR