SafeDepth: Safety-Aware Token-Level Adaptive Computation
该论文关注 Transformer 推理加速中的 token 级自适应计算（token-level adaptive computation）所带来的安全副作用。以往研究认为并非每个 token 都需要经过全部层，因此出现了一批选择性跳层的
#adaptive-computation
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文关注 Transformer 推理加速中的 token 级自适应计算（token-level adaptive computation）所带来的安全副作用。以往研究认为并非每个 token 都需要经过全部层，因此出现了一批选择性跳层的