简单实用的GPU内存监控程序(附：zw版python源码）

ziwang

简单实用的GPU内存监控程序(附：zw版python源码）

在对高频tick、分时等数据进行量化回测分析，以及运行AI人工智能模型时，

仅靠cpu的算力是不行的，必须借助GPU强大的并行加速运算。

GPU运算数据是基于显存数据，与电脑主机是两个独立监控的体系。

如果每个批次batch数据量过大，会引发显存溢出错误，如果数据量过小，又浪费了昂贵的GPU显存资源。

精确调整优化每个批次batch数据量的大小，属于GPU和AI编程的基本功。

通常，可以调用Nvidia公司的命令行工具程序：nvidia-smi

对程序、显存进行实时监控。

win10新版本的任务管理器，也与时共进，加入了GPU监控，不过有些过于简单。

process explorer是免费的增强版任务管理器，也提供了GPU监控功能。

虽然以上几种办法都不错，不过对于编程而言，还是基于模块库的版本更加灵活。

万能的python平台，模块库pynvml就可以实现GPU的监控功能。

pynvml模块库安装脚本如下：

pip install nvidia-ml-py3

---

全文请关注公众号或浏览：

zwPython.com,ziwang.com，TopQuant.vip网站

请大家注意zwPython.com,ziwang.com，TopQuant.vip网站，公众号的最新消息。

以下是python调用案例源码：

​