model.py — 模型创建工具¶
文件路径: verl/utils/model.py
文件概述¶
提供模型创建的工具函数,包括从配置自动选择模型类(文本或视觉-语言模型)、创建模型实例等。
核心功能¶
- 根据模型类型自动选择
AutoModelForCausalLM或AutoModelForVision2Seq - 支持从 HuggingFace Hub 或本地路径加载模型
- 处理模型初始化参数(dtype、device_map 等)
与其他模块的关系¶
- 依赖
transformers_compat.py获取正确的 Auto 类 - 被 worker 模块用来创建模型
小结¶
模型创建的便捷封装。