036 tensorflow | GPU & ConfigProto

目录

tf.device 指定gpu或cpu

通常tensorflow会默认使用找到的第一个gpu来运行程序，当有多个gpu时，可以使用tf.device来指定gpu设备。

with tf.Session() as sess:     
    with tf.device("/gpu:1"):         
        matrix1 = tf.constant([[3., 3.]])         
        matrix2 = tf.constant([[2.],[2.]])         
        product = tf.matmul(matrix1, matrix2)

ConfigProto

tf.ConfigProto一般用在创建session的时候。用来对session进行参数配置

with tf.Session(config = tf.ConfigProto(...),...)

控制GPU资源使用率

#allow growth
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)
# 使用allow_growth option，刚一开始分配少量的GPU容量，然后按需慢慢的增加，由于不会释放
#内存，所以会导致碎片

# per_process_gpu_memory_fraction
gpu_options=tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
config=tf.ConfigProto(gpu_options=gpu_options)
session = tf.Session(config=config, ...)
#设置每个GPU应该拿出多少容量给进程使用

控制使用那块GPU

~/ CUDA_VISIBLE_DEVICES=0  python your.py#使用GPU0
~/ CUDA_VISIBLE_DEVICES=0,1 python your.py#使用GPU0,1
#注意单词不要打错

#或者在 程序开头
os.environ['CUDA_VISIBLE_DEVICES'] = '0' #使用 GPU 0
os.environ['CUDA_VISIBLE_DEVICES'] = '0,1' # 使用 GPU 0，1

参考

• 使用 GPU