推荐 5.5
Conf: 50%
该论文聚焦于大型语言模型(LLM)代理在高性能计算(HPC)环境中的安全挑战。随着LLM代理开始承担HPC中的常规任务,如监控Slurm作业、诊断构建失败、检查模拟输出以及协调科学工作流,它们通常使用用户的凭证进行操作,并继承用户对文件和调度器的访问权限。这种安排产生了一种传统账户级控制无法捕获的故障模式:对手指令(体现在日志、工具描述、共享文件或代理间消息中)可能将代理重定向到用户分配的任务之外,即使每个生成的命令都经过身份验证并被该账户允许。作者将这一问题称为“被劫持的授权代理”问题。现有代理安全研究虽然解释了间接提示注入和工具滥用等相关机制,但通常是在Web、企业或个人助手环境中评估的。相比之下,HPC安全在身份和隔离方面有成熟的控制,但通常不表示特定任务的意图。本文定义了HPC环境下的威胁模型,识别了调度器、共享存储、多项目账户和科学工作流所创造的攻击面,并检查了当前控制措施的不足。最后,论文提出了一个研究议程和一个名为TaskBound的经验性基准计划,旨在评估和改善HPC中LLM代理的安全性。该研究适合HPC安全管理员、LLM安全研究人员以及科学计算平台开发者阅读。
💡 推荐理由: 本文揭示了LLM代理在HPC环境中特有的安全风险——授权代理被劫持,即使命令合法也可能造成破坏,这突破了传统访问控制的防护边界,对依赖HPC的科学研究和工程计算构成潜在威胁。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)