AgentProv: Auditing Agentic LLM API Providers via Tool-use Policy Probes
本文针对商用LLM API中模型身份被悄悄替换（如用较小模型替代、量化或包装）导致的不透明现象，提出了一种新的审计方法。现有审计大多基于文本输出通道来判断模型身份，但在代理型（agentic）API场景中，由于模型调用工具时服务堆栈（如Op
#model-auditing
共收录 2 条相关情报。
← 返回所有主题Fast and Lightweight Backdoor Detection via Head Random Probing
深度神经网络（DNN）仍然容易受到后门攻击，现有后门检测方法通常需要干净数据、代理数据、梯度或迭代触发器重建，导致计算成本高且在实际模型审计场景中鲁棒性有限。本文提出HTell，一种快速、轻量级且无需数据的后门检测方法，基于头部随机探针技术