__init__.py — 引擎模块初始化¶
文件概述¶
引擎模块的入口文件,使用 try/except 导入各个引擎实现,使得缺少某个后端依赖不会影响其他后端的使用。
from .base import BaseEngine, EngineRegistry
try:
from .fsdp import FSDPEngine, FSDPEngineWithLMHead
except ImportError:
pass
try:
from .megatron import MegatronEngine, MegatronEngineWithLMHead
except ImportError:
pass
# ... 类似地导入 TorchTitan, VeOmni, Mindspeed
小结¶
通过 try/except 实现可选依赖,用户只需安装自己使用的后端即可。