跳转至

__init__.py — 奖励管理器子模块的包初始化文件

文件路径: verl/experimental/reward_loop/reward_manager/__init__.py

文件概述

奖励管理器子模块的包初始化文件,聚合导出所有奖励管理器实现和注册表函数。

关键代码

from .base import RewardManagerBase
from .dapo import DAPORewardManager
from .limited import RateLimitedRewardManager
from .naive import NaiveRewardManager
from .registry import REWARD_MANAGER, get_reward_manager_cls, register
from .remote import RemoteRewardManager

导出的核心组件

组件 说明
RewardManagerBase 奖励管理器抽象基类
NaiveRewardManager 基础奖励管理器(同步/异步)
DAPORewardManager DAPO 算法专用奖励管理器(含超长惩罚)
RateLimitedRewardManager 带速率限制的奖励管理器
RemoteRewardManager 基于 Ray 远程 worker 的奖励管理器
register 注册装饰器
get_reward_manager_cls 按名称获取已注册的管理器类
REWARD_MANAGER 全局注册表字典

与其他模块的关系

  • 被 reward_loop.py 中的 load_reward_manager 函数使用
  • 各管理器实现分别在 naive.py、dapo.py、limited.py、remote.py 中

小结

这是一个典型的聚合导出文件,让用户可以用 from verl.experimental.reward_loop.reward_manager import NaiveRewardManager 这样简洁的方式导入。