Symmetry Defeats Auditing

本文展示了一种针对内省适配器（Introspection Adapters）的攻击方法。内省适配器是一种用于审计大型语言模型内部状态的机制，旨在检测模型是否遵循安全约束。研究者发现，由于内省适配器依赖的对称性假设（例如，模型内部状态与审计信

历史摘要 · 未重新核验 · arXiv cs.CR