__init__.py — 模块入口¶
文件路径: verl/utils/profiler/__init__.py
文件概述¶
根据硬件可用性自动选择标记实现:NVTX(NVIDIA GPU)、MSTX(华为 NPU)或空标记(fallback)。
if is_nvtx_available():
from .nvtx_profile import mark_annotate, mark_end_range, mark_start_range, marked_timer
elif is_npu_available:
from .mstx_profile import mark_annotate, mark_end_range, mark_start_range, marked_timer
else:
from .performance import marked_timer
from .profile import mark_annotate, mark_end_range, mark_start_range
导出的 API¶
GPUMemoryLogger, log_gpu_memory_usage, mark_start_range, mark_end_range, mark_annotate, DistProfiler, DistProfilerExtension, ProfilerConfig, simple_timer, marked_timer, build_vllm_profiler_args, build_sglang_profiler_args
小结¶
统一的性能分析入口,自动适配不同硬件。