Alignment Is Local: A Paired Diagnostic for GUI Agents under User-Side Persuasion
本文研究GUI智能体(如移动设备上的自主操作代理)在真实部署中的对齐(alignment)鲁棒性问题。作者指出,当前主流的轻量级防御手段——提示词级对齐(prompt-level alignment)——是一种“局部现象”:它仅在狭窄的评估
共收录 1 条相关情报。
← 返回所有主题本文研究GUI智能体(如移动设备上的自主操作代理)在真实部署中的对齐(alignment)鲁棒性问题。作者指出,当前主流的轻量级防御手段——提示词级对齐(prompt-level alignment)——是一种“局部现象”:它仅在狭窄的评估