TensorFlow指定特定GPU以及占用显存的比例
2017-08-22 22:55
555 查看
因为LZ是使用GPU服务器跑TensorFlow,而TensorFlow默认的是占用所有GPU,于是为了不影响其他同学使用GPU,于是就试验和总结了一下TensorFlow指定GPU的方法。。
TensorFlow:v1.3
GPU 8个GTX1080,第一列的0~7的数是GPU的序号
(1)vim ~/.bashrc
(2)在.bashrc.最下方添加
export CUDA_VISIBLE_DEVICES='XX'(这个xx是GPU的序号,比如我这边服务器上有8个GTX1080序号是0~7,可以填入任意多个序号,序号间用逗号隔开)
(3)source ~/.bashrc
这样只要每次你用TensorFlow跑程序,都只会占用指定的GPU
这样就只会使用序号为2的GPU
os.environ["CUDA_VISIBLE_DEVICES"]=‘6‘’,‘7’
这里就设置了使用序号为6,7两个的GPU
事实上这3种方法都是为了设置环境变量CUDA_VISIBLE_DEVICES,方法一可以分别和方法二,三结合使用,比如虽然方法一设置了CUDA_VISIBLE_DEVICES=2,后面再用方法二设置使用GPU 0,执行的时候只使用GPU 0。
这样运行TensorFlow程序时,每个使用的GPU中,占用的显存都不超过总显存的0.7.
比如我的GTX1080显存是8G左右,然后占用的显存应该是0.7*8=5.6G左右,得到的结果5.9G,差不多。
这样设置以后,程序就会按需占用GPU显存。
https://stackoverflow.com/questions/36668467/change-default-gpu-in-tensorflow http://www.cnblogs.com/darkknightzh/p/6591923.html
环境
系统:Ubuntu14.04TensorFlow:v1.3
GPU 8个GTX1080,第一列的0~7的数是GPU的序号
一.设置指定GPU
1.一劳永逸的方法,直接在~/.bashrc中设置环境变量
CUDA_VISIBLE_DEVICES
(1)vim ~/.bashrc
(2)在.bashrc.最下方添加
export CUDA_VISIBLE_DEVICES='XX'(这个xx是GPU的序号,比如我这边服务器上有8个GTX1080序号是0~7,可以填入任意多个序号,序号间用逗号隔开)
(3)source ~/.bashrc
这样只要每次你用TensorFlow跑程序,都只会占用指定的GPU
2.在终端设置使用的GPU
如果用方法一,虽然方便,但有的时候还是需要指定其他的GPU,这时可以这样,例如CUDA_VISIBLE_DEVICES=2 python test.py
这样就只会使用序号为2的GPU
3.在程序中指定使用的GPU
import osos.environ["CUDA_VISIBLE_DEVICES"]=‘6‘’,‘7’
这里就设置了使用序号为6,7两个的GPU
事实上这3种方法都是为了设置环境变量CUDA_VISIBLE_DEVICES,方法一可以分别和方法二,三结合使用,比如虽然方法一设置了CUDA_VISIBLE_DEVICES=2,后面再用方法二设置使用GPU 0,执行的时候只使用GPU 0。
二.设置占用每个GPU的比例
1.定量设置显存
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7) sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
这样运行TensorFlow程序时,每个使用的GPU中,占用的显存都不超过总显存的0.7.
比如我的GTX1080显存是8G左右,然后占用的显存应该是0.7*8=5.6G左右,得到的结果5.9G,差不多。
2.按需设置显存
gpu_options = tf.GPUOptions(allow_growth=True) sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
这样设置以后,程序就会按需占用GPU显存。
引用
https://stackoverflow.com/questions/37893755/tensorflow-set-cuda-visible-devices-within-jupyterhttps://stackoverflow.com/questions/36668467/change-default-gpu-in-tensorflow http://www.cnblogs.com/darkknightzh/p/6591923.html
相关文章推荐
- TensorFlow训练模型,指定GPU训练,设置显存,查看gpu占用
- TensorFlow指定GPU使用及监控GPU占用情况
- tensorflow中使用指定的GPU及GPU显存
- TensorFlow中指定GPU及GPU显存设置
- (原)tensorflow中使用指定的GPU及GPU显存
- tensorflow使用GPU训练时的显存占用问题
- tensorflow中指定GPU及GPU显存设置
- tensorflow使用GPU训练时的显存占用问题
- tensorflow使用GPU训练时的显存占用问题
- tensorflow使用GPU训练时的显存占用问题
- (转)tensorflow中使用指定的GPU及GPU显存
- tensorflow中使用指定的GPU及GPU显存
- spark master 占用8080,手动指定特定端口
- ubuntu下安装cuda,cudnn以及tensorflow(gpu)
- tensorflow设置显存自适应和显存比例.
- ubuntu16.04安装NIVIDIA显卡驱动,cuda8.0,cuDNN6.0以及基于Anaconda安装Tensorflow-GPU
- 如何获取显卡的GPU占用率和显存占用情况
- Tensorflow指定使用哪个GPU
- 多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置
- tensorflow指定gpu的使用