Agent Security is a Systems Problem
该论文提出，智能体（agent）的安全性必须被当作一个系统问题来处理，而不仅仅依赖AI模型本身的鲁棒性。作者认为，驱动智能体的AI模型应当被视为不可信组件，安全不变性必须在系统层面强制实施。当前社区主流观点侧重于提升模型鲁棒性，但这远远不够
#systems-security
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文提出，智能体（agent）的安全性必须被当作一个系统问题来处理，而不仅仅依赖AI模型本身的鲁棒性。作者认为，驱动智能体的AI模型应当被视为不可信组件，安全不变性必须在系统层面强制实施。当前社区主流观点侧重于提升模型鲁棒性，但这远远不够