mbridge.py — mbridge 轻量集成¶
文件路径¶
verl/models/mcore/mbridge.py
文件概述¶
轻量版的 Megatron-Bridge 集成,使用 mbridge 包(社区版本)而非 megatron.bridge。导入前先应用兼容性补丁。
关键代码讲解¶
from verl.models.mcore.patch import apply_patch_mbridge
apply_patch_mbridge() # 先应用兼容性补丁
from mbridge import AutoBridge
from mbridge.utils.post_creation_callbacks import freeze_moe_router, make_value_model
__all__ = ["AutoBridge", "make_value_model", "freeze_moe_router"]
导出的功能¶
AutoBridge:自动权重转换make_value_model:将模型转换为 value/critic 模型的回调freeze_moe_router:冻结 MoE router 的回调
与 bridge.py 的区别¶
| 方面 | bridge.py | mbridge.py |
|---|---|---|
| 包名 | megatron.bridge |
mbridge |
| 功能 | LoRA + AutoBridge | AutoBridge + 回调 |
| 安装 | 需要 megatron-bridge | pip install mbridge |
小结¶
mbridge.py 是 bridge.py 的轻量替代,使用社区版 mbridge 包。在导入前应用兼容性补丁确保与当前 mcore 版本兼容。