跳转至

dataset/ 子模块 — 数据集工具

概述

dataset/ 子模块提供 RLHF 训练和 SFT 训练所需的数据集实现,包括数据加载、预处理、多模态(图像/视频)支持等。

文件列表

文件 说明
__init__.py 模块入口
rl_dataset.py RLHF 数据集(核心)
rm_dataset.py 奖励模型数据集
dataset_utils.py 数据集工具(Collator 等)
vision_utils.py 多模态视觉处理
multiturn_sft_dataset.py 多轮对话 SFT 数据集