Homomorphic Advantage Operator: Stabilizing Reinforcement Learning Under Fully Homomorphic Encryption Constraints
该论文针对云端隐私保护机器学习在智能体场景中的落地难题展开研究。全同态加密（FHE）允许在密文上直接计算，是保护云端强化学习（RL）数据机密性的理想方案，但 FHE 只原生支持加法和乘法，所有非线性激活、裁剪、比较等操作都必须替换为多项式近
#reinforcement-learning
共收录 51 条相关情报。
← 返回所有主题Learnt Attacks on Quantum Key Distribution under Channel Noise and Device Drift
该论文研究量子密钥分发（QKD）链路在非平稳信道条件下的安全性缺口。传统 QKD 安全分析基于「信道平稳」假设，而实际设备在两次校准之间会发生漂移（device drift），信道参数随时间变化。作者提出并量化了一个此前未被回答的问题：一个
Crossing the Cyber Divide: Sim-to-Sim and Sim-to-Real Transfer for RL Agents
该论文研究网络攻防强化学习智能体在不同仿真环境之间的策略迁移问题。现有网络攻击智能体通常只在单一模拟器中训练和评估，导致无法判断学到的策略能否迁移到其他环境，也妨碍部署与公平比较。作者指出，不同网络模拟器在状态表示、观测模型和动作空间方面差
No One Architecture Fits All: A Cross-Environment Evaluation of Hierarchical Red Team Agents
该论文针对自主红队智能体（autonomous red team agents）研究中的一个方法论盲区展开：现有工作常把强化学习（RL）规划器与大型语言模型（LLM）规划器以混合分层的方式组合，用于对 AI 赋能的网络防御进行多阶段压力测试
Distillation Defenses Easily Break After Reinforcement Learning
该论文研究了针对大语言模型蒸馏攻击的防御措施在攻击者后续进行强化学习训练时失效的问题。蒸馏攻击指攻击者系统性地收集闭源前沿模型的推理轨迹，并以此训练自己的模型，从而以低成本复制其推理能力。现有防御通常只在蒸馏完成后立即评估，隐含假设攻击者不
Climbing the Hill: Prompt Injection Red-Teaming Against Frontier Models with Curriculum Reinforcement Learning
该论文聚焦大语言模型（LLM）及其衍生的智能体（agent）应用所面临的提示注入（prompt injection）安全风险，研究如何自动化地对前沿模型开展红队测试。现有基于强化学习（RL）的红队方法通常训练一个“攻击者 LLM”来生成注入
ForgetMimic: Motion Unlearning for Reinforcement Learning Humanoid Control
本文关注强化学习（RL）人形机器人控制中的「运动遗忘」问题。近年来，借助人类动捕示范数据训练的策略已能让实体人形机器人完成多样化、敏捷且自然的运动（如舞蹈、格斗、翻腾等）。然而，一旦这些策略训练完成，如何从已学习的策略中定向「抹除」某几类特
Reinforcement Learning Inspired Black-box Adversarial Attacks for Computer Vision
本文关注深度视觉模型在对抗性扰动下的脆弱性问题。基于卷积网络或 Transformer 的神经网络已成为现代计算机视觉系统的核心组件，但已有研究表明，人眼几乎不可察觉的微小扰动即可显著改变模型预测结果，这对自动驾驶、医疗影像、工业质检等安全
Searching for Primes: A Neural AlphaZero Approach to a Factoring Game
该论文研究一个定义在 N×N 棋盘上的单人 token 游戏：token 可以沿对角线滑动，或复制到相邻格子上，最终目标是拼出一个组合矩形 R×S。作者指出，游戏中存在一个守恒的整数权重 W'，外加一个严格的单调量（monovariant）
ASGARD: Action-Space Guard for UAV Resilience via Reinforcement Learning
该论文关注基于强化学习（RL）的无人机（UAV）导航与控制器的运行时安全问题。近年来，RL 控制器因其在复杂机动与自主导航中的表现被广泛用于无人机控制，但这类策略存在一个关键且常被忽视的攻击面：动作空间攻击。攻击者并不篡改策略的观测输入，而
AUDITPLAN: Commit, Then Answer for Auditable Safety Alignment
该论文针对当前大模型安全对齐流水线的一个结构性缺陷：训练与评估只评判模型的最终答案，因此无法区分「真正稳健的拒答」与两类不良捷径——(1) 对良性请求的一律拒答（过度拒答），(2) 理由写得漂亮、看似安全但并未真正约束答案的「不忠实安全解释
Epsilon-Nash Equilibria in History-Dependent SA-MDPs
该论文研究状态对抗马尔可夫决策过程（SA-MDP），并将其建模为一场针对观测空间攻击的博弈：智能体每一步根据接收到的观测选择动作，而对手知道智能体所处的真实状态，并在一个依赖状态的邻近集合内选择一个被扰动的观测。已有工作主要聚焦马尔可夫策略
The MAL Simulator: Cyber Operations Simulation based on Attack & Defense Graphs
该论文介绍了 MAL Simulator（MAL 模拟器），一个基于 Meta Attack Language（MAL）构建的网络攻防行动模拟器，定位为面向决策驱动的网络攻击与防御仿真平台，用于系统分析以及自动化智能体（agent）的训练与
A Cyber Range Evaluation of Autonomous Network Incident Response Agents
该论文关注一个在安全自动化和自主化趋势下日益重要的问题：自动化网络入侵响应智能体（agent）在真实感较强的环境中究竟表现如何，以及其效能受哪些因素影响。作者没有停留在仿真器或简化基准上，而是选择了一个原本用于人类操作员培训的网络靶场（cy
When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control
论文揭示：把预训练的潜在世界模型（把观测编码为潜在状态、并预测其在动作下如何演化的学习型模拟器）当作下游控制任务的“现成动力学骨干”来复用，会引入一条供应链后门。攻击者只需控制发布的模型检查点，就能劫持下游控制器——而受害者完全在干净数据上
Learning Intrusion Response Strategies for OT Systems
该论文面向工业控制系统（OT，Operational Technology）的自动化入侵响应问题。OT 系统负责监控和控制电力、水务、制造等关键工业过程，一旦遭受网络攻击，可能直接影响社会基础服务的可用性与安全性，因此仅靠人工响应已难以满足
TrojanWorld: Backdooring World-Model Agents via Imagination Steering
本文提出了一种针对基于世界模型的强化学习智能体的后门攻击框架 TrojanWorld。世界模型作为模型-based 强化学习智能体的预测核心，使智能体能够在执行动作前模拟未来动态并基于想象轨迹进行推理。由于其训练成本高昂，预训练世界模型常被
REPLICANT: Learning Policies for Evading and Hardening Malware Detectors
该论文针对基于机器学习的恶意软件检测器在实际对抗环境中的鲁棒性评估问题展开研究。现有对抗攻击研究通常假设攻击者能够访问训练数据、特征空间或置信度分数等特权信息，这与真实世界的攻击者能力不符。为此，作者提出了一个名为 Replicant 的深
MARL-Based Sequential RIS Auctions: A Physical-Layer Security Analysis
可重构智能表面（RIS）是未来无线通信中的一项关键技术，通过动态配置大量无源反射元件，可在不增加功耗的情况下提升覆盖范围、频谱效率和物理层安全性。当 RIS 由中立的运营商部署时，其反射元件可视为一种可量化的无线资源，合法接收方与窃听者均可
RL-GRIT: Reinforcement Learning for Grammar Inference.
本文提出一种基于强化学习（RL）的语法推断新方法 RL-GRIT，用于理解实际数据格式（de facto data formats）的使用模式。作者指出，在分析数据格式时，实际样例往往比规范文档更具代表性；例如不同应用对 JSON 的使用差