#prompt-level-configuration

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Fukang Zhu, Binbin Zhao, Ruixiao Lin, Ping He, Tianyu Du, Shouling Ji

该论文研究编码智能体(coding agents)在从第三方代码仓库引导项目时所面临的仓库投毒(repository poisoning)风险。以往研究主要关注攻击者控制的注入与伪装手段,但本文提出一个被忽视的维度:开发者的日常调用选择——包括委托什么任务、如何表述请求、提供哪些技能或规则——也会显著影响智能体的安全暴露。作者将这些用户侧选择定义为“提示级配置”(Prompt-Level Configurations, PLCs),并构建了首个系统化变异PLC的基准测试集CIPR(Coding In Poisoned Repos)。CIPR包含来自20个真实仓库的1,920个实例,覆盖四种任务类型、三种基于社交媒体语料归纳的提示风格,以及三种技能/规则条件,并通过自动化运行时与基于调用轨迹的预言机来度量攻击成功率(ASR)和智能体告警率(AR)。评估揭示两个关键发现:(1)脆弱性高度依赖上下文,任务类型可导致最多4.5倍的ASR差异,其中“测试执行”任务形成沉默攻击面(高ASR、低AR);(2)提示表达会间接改变风险:欠具体的提示因缩短执行深度而降低ASR,而嘈杂的提示则呈现抑制告警的定向趋势——使恶意内容更不显眼。作者由此论证,编码智能体的脆弱性并非静态属性,而是由日常用户配置塑造的动态结果。该研究为理解人机交互在AI辅助开发安全中的作用提供了新视角,适合关注LLM智能体安全、软件供应链安全以及人因安全的研究人员阅读。

💡 推荐理由: 该研究首次系统揭示用户调用方式(任务类型、提示措辞、技能/规则选择)会显著改变编码智能体遭受仓库投毒攻击的风险,提醒安全团队不能只关注模型或工具本身,还需规范开发者使用LLM的交互模式。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)