跳转至

mbridge.py — mbridge 轻量集成

文件路径

verl/models/mcore/mbridge.py

文件概述

轻量版的 Megatron-Bridge 集成,使用 mbridge 包(社区版本)而非 megatron.bridge。导入前先应用兼容性补丁。

关键代码讲解

from verl.models.mcore.patch import apply_patch_mbridge
apply_patch_mbridge()  # 先应用兼容性补丁

from mbridge import AutoBridge
from mbridge.utils.post_creation_callbacks import freeze_moe_router, make_value_model

__all__ = ["AutoBridge", "make_value_model", "freeze_moe_router"]

导出的功能

  • AutoBridge:自动权重转换
  • make_value_model:将模型转换为 value/critic 模型的回调
  • freeze_moe_router:冻结 MoE router 的回调

与 bridge.py 的区别

方面 bridge.py mbridge.py
包名 megatron.bridge mbridge
功能 LoRA + AutoBridge AutoBridge + 回调
安装 需要 megatron-bridge pip install mbridge

小结

mbridge.py 是 bridge.py 的轻量替代,使用社区版 mbridge 包。在导入前应用兼容性补丁确保与当前 mcore 版本兼容。