Aletheia: Permission-Minimality Testing for Coding-Agent Rules
该论文关注编码智能体(coding agent)所依赖的「仓库指令文件」(如 AGENTS.md、copilot-instructions 一类指导性规则)带来的安全风险:这些文件本意是引导智能体正确完成开发任务,但也构成一条 prompt
共收录 6 条相关情报。
← 返回所有主题该论文关注编码智能体(coding agent)所依赖的「仓库指令文件」(如 AGENTS.md、copilot-instructions 一类指导性规则)带来的安全风险:这些文件本意是引导智能体正确完成开发任务,但也构成一条 prompt
该论文关注一个日益重要的问题:如何可靠地评估编码智能体(coding agent)在网络安全漏洞方面的意识与修复能力。作者指出,传统静态基准存在明显局限:任务覆盖范围与难度固定,模型能力提升后容易饱和;而真实世界可用的脆弱代码仓库稀缺,专家
这篇论文(cs.SE)系统研究了编码智能体(coding agent)审批机制的覆盖盲区。问题起点是:审批界面把人类的批准决定绑定到某一条命令或某一个工具调用上,但开发者工具真正执行的是该调用所激活的整条传递性工作流。例如安装一个包可能触发
该论文关注编码智能体(coding agent)过程溯源问题。现有做法多为对智能体最终产出的补丁(patch)打水印,只能为提交的产物提供来源证据,却无法验证产生该产物的可见执行轨迹(trajectory)是否被篡改;而行为水印方法通常只给
本文针对LLM编程智能体(coding agent)的安全防护问题展开研究。编程智能体能够以开发者的权限编辑文件、执行shell命令,因此恶意请求可能被直接转化为有害操作或功能性恶意软件。现有防御手段存在互补性局限:基于权重对齐的微调方法不
该论文研究了编码代理(coding agents)在执行良性用户请求时可能产生“过度动作”(overeager actions)的问题。编码代理通常被赋予shell、文件、网络等高级权限,当用户提出一个看似无害的任务(如修改代码)时,代理有