Integrity of peer-to-peer distributed LLM inference under malicious nodes
该论文研究了对等网络(P2P)分布式大语言模型(LLM)推理的完整性保证问题。在P2P分布式推理场景中,LLM的层被分散到多个节点上,每个请求依次经过由不同独立方拥有和控制的节点。任何恶意的节点都有可能篡改其负责的层的输出,从而破坏最终结果
共收录 1 条相关情报。
← 返回所有主题该论文研究了对等网络(P2P)分布式大语言模型(LLM)推理的完整性保证问题。在P2P分布式推理场景中,LLM的层被分散到多个节点上,每个请求依次经过由不同独立方拥有和控制的节点。任何恶意的节点都有可能篡改其负责的层的输出,从而破坏最终结果