该论文针对CPU侧大语言模型（LLM）分词器在机密计算环境（结合CPU和GPU可信执行环境）中存在的安全漏洞进行了深入研究。分词器通过表驱动查找将提示词转换为token，其内存访问模式会泄露用户输入的侧信道信息。已有工作证明，在Intel TDX上可以完整恢复用户提示词。直接使用树形不经意随机存取存储器（如PathORAM）虽然能防止访问模式泄露，但会导致分词器延迟增加约13倍，使首Token时间（TTFT）上升10%-58%。为此，本文提出OTRO（Oblivious Tokenization Path with Square-Root ORAM），一种针对延迟敏感的LLM服务的高效、无泄露的分词路径方案。OTRO基于平方根ORAM实现快速单次访问查找，但通过三项关键创新避免了平方根ORAM每√N次访问所需的昂贵的O(N log²N)重构开销：第一，利用分词器表的只读特性，提供一组复制的平方根ORAM实例池；第二，基于epoch的轮换策略将访问与重构解耦，并在每个epoch边界填充假访问以最小化可观测信息；第三，分块KV缓存感知的分词进一步将重构与GPU预填重叠，并最小化实例数量。在HuggingFace Tokenizers和nano-vLLM中实现，并运行于NVIDIA H100 GPU的TDX使能CVM中，OTRO将TTFT开销限制在最多4.5%，分词器引起的延迟低于总TTFT的10%，额外内存开销小于0.5GB，同时显著降低了分词器在不同模型系列和规模下的可观测泄露。研究贡献：提出一种实用的、针对LLM分词器的无泄露路径方案，在保持安全性的同时极大提升了性能，适合机密计算和隐私保护推理场景的研究人员及工程人员阅读。

本文提出Cloak，一种新型的 oblivious 存储系统，旨在解决传统 ORAM（Oblivious Random Access Machine）在真实场景中部署效率低下的问题。ORAM 通过隐藏用户对云端数据的访问模式来防止侧信道攻击，但其高昂的通信开销（通常比非保护基线高数十倍）阻碍了实际应用。Cloak的核心创新在于利用真实工作负载中普遍存在的时间局部性——即最近被访问的数据更可能被再次访问——来显著提升性能。具体而言，Cloak 让服务器流量遵循一种固定的“近期偏置”模式，即访问概率随数据被访问的时间衰减，然后将真实查询尽量填充进这种预定义的流量模式中。当工作负载表现出时间局部性时，真实查询与流量模式高度匹配，从而大幅降低额外开销。实验表明，对于 Netflix 点击流和以太坊交易轨迹这两种具有强时间局部性的数据集，在单台机器上 Cloak 分别实现了每秒 165,000 次和 157,000 次操作，开销仅约为非 oblivious 未加密基线的 1.1 倍。重要的是，这种启发式优化仅影响性能，不影响安全性——Cloak 的 oblivious 性质依赖于其所遵循的固定流量模式，而非查询的真实分布。因此，即使攻击者观察到模式化的流量，也无法从中推断出实际访问模式。本文的主要贡献在于：1) 识别并利用了时间局部性这一真实工作负载的简单属性来优化 ORAM；2) 证明了在特定条件下，启发式 oblivious 方案可以接近非 oblivious 系统的性能；3) 通过在大规模真实轨迹上的实验验证了 Cloak 的高吞吐量和低开销。本文对于研究安全存储和隐私保护的学者、以及寻求在云环境中部署高安全存储系统的工程师具有重要参考价值。