__init__.py — 奖励管理器子模块的包初始化文件¶
文件路径:
verl/experimental/reward_loop/reward_manager/__init__.py
文件概述¶
奖励管理器子模块的包初始化文件,聚合导出所有奖励管理器实现和注册表函数。
关键代码¶
from .base import RewardManagerBase
from .dapo import DAPORewardManager
from .limited import RateLimitedRewardManager
from .naive import NaiveRewardManager
from .registry import REWARD_MANAGER, get_reward_manager_cls, register
from .remote import RemoteRewardManager
导出的核心组件¶
| 组件 | 说明 |
|---|---|
RewardManagerBase |
奖励管理器抽象基类 |
NaiveRewardManager |
基础奖励管理器(同步/异步) |
DAPORewardManager |
DAPO 算法专用奖励管理器(含超长惩罚) |
RateLimitedRewardManager |
带速率限制的奖励管理器 |
RemoteRewardManager |
基于 Ray 远程 worker 的奖励管理器 |
register |
注册装饰器 |
get_reward_manager_cls |
按名称获取已注册的管理器类 |
REWARD_MANAGER |
全局注册表字典 |
与其他模块的关系¶
- 被
reward_loop.py中的load_reward_manager函数使用 - 各管理器实现分别在
naive.py、dapo.py、limited.py、remote.py中
小结¶
这是一个典型的聚合导出文件,让用户可以用 from verl.experimental.reward_loop.reward_manager import NaiveRewardManager 这样简洁的方式导入。