Telemetry and Concealment in Self-Adapting Generative AI: Logging Architecture, Adversarial Model Hiding, and the Limits of Detection

传统模型风险管理（MRM）指南假设模型生命周期是静态的：模型经过开发、独立验证和部署后，不再进行自主修改。然而，持续自适应的生成式AI系统——即在生产部署过程中会不断更新自身权重的模型——从根本上违背了这一假设，使得时点验证（point-i

历史摘要 · 未重新核验 · arXiv cs.CR