Codetta: High-Capacity, Keyless, and Undetectable Multi-Agent Collusion
该论文研究的是基于大语言模型(LLM)的多智能体系统在高风险场景(金融、医疗、软件工程)中的隐蔽串通风险。由于智能体之间通过自然语言消息协调,这些通道同样可被用于泄露机密信息或协调未授权操作;而隐写术可以把这类通信隐藏成对审计者而言看似普通
共收录 1 条相关情报。
← 返回所有主题该论文研究的是基于大语言模型(LLM)的多智能体系统在高风险场景(金融、医疗、软件工程)中的隐蔽串通风险。由于智能体之间通过自然语言消息协调,这些通道同样可被用于泄露机密信息或协调未授权操作;而隐写术可以把这类通信隐藏成对审计者而言看似普通