Integrity of peer-to-peer distributed LLM inference under malicious nodes
该论文研究了对等网络(P2P)分布式大语言模型(LLM)推理的完整性保证问题。在P2P分布式推理场景中,LLM的层被分散到多个节点上,每个请求依次经过由不同独立方拥有和控制的节点。任何恶意的节点都有可能篡改其负责的层的输出,从而破坏最终结果
共收录 2 条相关情报。
← 返回所有主题该论文研究了对等网络(P2P)分布式大语言模型(LLM)推理的完整性保证问题。在P2P分布式推理场景中,LLM的层被分散到多个节点上,每个请求依次经过由不同独立方拥有和控制的节点。任何恶意的节点都有可能篡改其负责的层的输出,从而破坏最终结果
本文针对结构化对等网络(如Chord)中查询隐私泄露问题,提出了一种名为IRIS的隐私保护方案。在传统Chord网络中,用户通过向中间节点逐跳询问来定位数据,每个节点会返回离目标地址最近的已知节点,直到找到负责该数据的节点。这一过程中间节点