Red-Teaming Auto Mode: Improving Blocking Classifiers Against Malign Coding Agents
该论文研究的是编码智能体(coding agent)在生产环境中的安全护栏问题。当前主流做法是在智能体执行每个动作前,由一个阻断式监控器(blocking monitor)先审查并有权否决该动作,例如 Claude Code 的 Auto
#coding-agents
共收录 3 条相关情报。
← 返回所有主题Steerability via constraints: a substrate for scalable oversight of coding agents
该论文聚焦于编码代理（coding agents）的安全监督问题。随着LLM驱动的编码代理能力日益增强，人类审查成为瓶颈，无约束的代理会引入安全风险（如后门注入）、破坏代码库的可扩展性，并使人工代码审查成本急剧上升。作者提出一个核心论点：管
How Humans, Bots, and Agents Communicate About Vulnerabilities in Pull Requests
该论文研究开发者在拉取请求（pull request）讨论中如何沟通漏洞信息，涵盖人类、机器人和编码代理（如GitHub Copilot等AI助手）。传统研究主要关注显式漏洞标识符（如CVE、GHSA），但隐式安全相关语言（如“未授权访问”