#rlhf

共收录 2 条相关情报。

← 返回所有主题

学术论文2026-09-27 发布INFO

No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability

该论文研究了基础模型训练效率与模型脆弱性之间可能存在的权衡关系。近年来，为应对大规模训练带来的巨大算力与数据需求，研究者广泛采用选择性数据采样、高效预训练以及简化强化学习（RL）训练管线等策略。这些方法显著降低了开销，但作者提出一个此前被忽

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.LG #training-efficiency #adversarial-robustness #privacy #foundation-models #llm

学术论文2026-06-08 发布INFO

Cheap Reward Hacking Detection

该研究提出一种低成本、高效的reward hacking检测方法，针对强化学习（特别是基于人类反馈的强化学习，RLHF）中奖励模型被操纵的问题。核心方法：训练一个小型Transformer编码器，将Terminal-Wrench环境中的轨迹

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.LG #cs.AI #reward-hacking #transformer #detection #llm