logging_utils.py — 日志工具¶
文件路径: verl/utils/logging_utils.py
文件概述¶
提供日志相关的工具函数,包括 rank-0 日志打印(只在主进程输出)和装饰器式日志。
核心功能¶
在分布式训练中,每个进程都会执行相同的代码。如果每个进程都打印日志,会产生大量重复输出。print_rank_0 确保只有 rank 0 进程打印。
与其他模块的关系¶
- 被各模块广泛使用
- 被
megatron/optimizer.py等模块用来打印配置信息
小结¶
简单的日志工具,解决分布式训练中的重复输出问题。