dataset/ 子模块 — 数据集工具¶
概述¶
dataset/ 子模块提供 RLHF 训练和 SFT 训练所需的数据集实现,包括数据加载、预处理、多模态(图像/视频)支持等。
文件列表¶
| 文件 | 说明 |
|---|---|
__init__.py |
模块入口 |
rl_dataset.py |
RLHF 数据集(核心) |
rm_dataset.py |
奖励模型数据集 |
dataset_utils.py |
数据集工具(Collator 等) |
vision_utils.py |
多模态视觉处理 |
multiturn_sft_dataset.py |
多轮对话 SFT 数据集 |