Steganalysis of Adaptive Covert Collusion in Tool-Using Agent Populations: A Black-Box, Cross-Principal Approach
本文研究基于大型语言模型(LLM)的工具型智能体(agent)在共享基础设施上多实例并行部署时面临的新型“群体级”安全风险:少数智能体可能通过隐蔽的协作行为(如操纵市场、在评审中互相抬高、协同窃取数据)达成恶意目标,而单个智能体从个体视角看
共收录 1 条相关情报。
← 返回所有主题本文研究基于大型语言模型(LLM)的工具型智能体(agent)在共享基础设施上多实例并行部署时面临的新型“群体级”安全风险:少数智能体可能通过隐蔽的协作行为(如操纵市场、在评审中互相抬高、协同窃取数据)达成恶意目标,而单个智能体从个体视角看