The Latent Diagnostic Taxonomy: A Framework for Constructing Classifiers and Diagnosing Their Decisions, Applied to Prompt Injection Detection
本文提出了一种名为“潜在诊断分类法”(Latent Diagnostic Taxonomy)的框架,用于构建作为安全防护层的分类器,并开发配套的诊断机制,以识别分类器哪些高置信度决策是可信任的。该框架包含三个核心步骤:首先,构建维度优化的分