全栈网站开发者,Wordpress竞拍,做一静态网站 多少钱,媒体软文发布平台GPU统计显存占用有两种方法#xff1a;
方法1#xff1a; 使用
watch -n 1 nvidia-smi
这个会2秒刷新一次#xff0c;可以在一个终端运行程序另外一个终端执行这个然后看具体的显存变化【很费劲#xff0c;而且可能一闪而过】
方法2#xff1a;
要统计程序的最大显存…GPU统计显存占用有两种方法
方法1 使用
watch -n 1 nvidia-smi
这个会2秒刷新一次可以在一个终端运行程序另外一个终端执行这个然后看具体的显存变化【很费劲而且可能一闪而过】
方法2
要统计程序的最大显存占用你可以使用Python的nvidia-smi库来监测程序的显存使用情况并记录最大值。以下是一个示例代码用于实现这个目标
首先确保你已经安装了NVIDIA的nvidia-smi工具和相关驱动以及Python的nvidia-ml-py库这个库用于与NVIDIA Management Library (NVML) 进行交互。
可以使用以下命令来安装 nvidia-ml-py
pip install nvidia-ml-py然后你可以使用以下Python代码来统计程序的最大显存占用
import time
import pynvmldef get_max_gpu_memory_usage():pynvml.nvmlInit()try:gpu_count pynvml.nvmlDeviceGetCount()max_memory_usage [0] * gpu_countwhile True:for i in range(gpu_count):handle pynvml.nvmlDeviceGetHandleByIndex(i)memory_info pynvml.nvmlDeviceGetMemoryInfo(handle)memory_used memory_info.usedif memory_used max_memory_usage[i]:max_memory_usage[i] memory_used# Delay to control the monitoring intervaltime.sleep(1)except KeyboardInterrupt:return max_memory_usagefinally:pynvml.nvmlShutdown()if __name__ __main__:max_memory_usage get_max_gpu_memory_usage()for i, max_memory in enumerate(max_memory_usage):print(fMaximum GPU {i} memory usage: {max_memory / 1024 / 1024} MB)在当前终端运行你的python 程序在另一个终端运行(也可以本终端后台运行这个这个GPU显存统计脚本【这个代码会初始化NVML库然后在一个无限循环中检查每块GPU的显存占用并记录每块GPU的最大显存占用。你可以通过按CtrlC来停止程序的执行并最终打印出每块GPU的最大显存占用。】
当你的python 程序运行结束后CtrlC来停止本脚本就会出现各个device的打印结果
