跳转至

model.py — 模型创建工具

文件路径: verl/utils/model.py

文件概述

提供模型创建的工具函数,包括从配置自动选择模型类(文本或视觉-语言模型)、创建模型实例等。

核心功能

  • 根据模型类型自动选择 AutoModelForCausalLM 或 AutoModelForVision2Seq
  • 支持从 HuggingFace Hub 或本地路径加载模型
  • 处理模型初始化参数(dtype、device_map 等)

与其他模块的关系

  • 依赖 transformers_compat.py 获取正确的 Auto 类
  • 被 worker 模块用来创建模型

小结

模型创建的便捷封装。