浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置
服务器有多张显卡,一般是组里共用,分配好显卡和任务就体现公德了。除了在代码中指定使用的GPU编号,还可以直接设置可见GPU编号,使程序/用户只对部分GPU可见。
操作很简单,使用环境变量CUDA_VISIBLE_DEVICES即可。
具体来说,如果使用单卡运行Python脚本,则可输入
CUDA_VISIBLE_DEVICES=1pythonmy_script.py
脚本将只使用GPU1。
在.py脚本和Notebook中设置,则
importos
os.environ["CUDA_VISIBLE_DEVICES"]="2"
还可以直接设置临时的环境变量:
exportCUDA_VISIBLE_DEVICES="0"
此时该用户的CUDA只看得见GPU0。
至于显存设置,可以设置使用比例(70%):
gpu_options=tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess=tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
也可以按需增长:
config=tf.ConfigProto() config.gpu_options.allow_growth=True session=tf.Session(config=config,...)
如果是Keras使用TensorFlow后端,则可通过如
importtensorflowastf fromkeras.backend.tensorflow_backendimportset_session config=tf.ConfigProto() config.gpu_options.allow_growth=True set_session(tf.Session(config=config))
更改使用设置。
以上这篇浅谈多卡服务器下隐藏部分GPU和TensorFlow的显存使用设置就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。
热门推荐
10 小红书平安祝福语简短
11 生日祝福语大全女孩简短
12 收生日红包祝福语 简短
13 领证幽默祝福语简短
14 法考面试祝福语简短
15 老哥出门祝福语简短语
16 送灯祝福语简短独特
17 幼儿狗年祝福语大全简短
18 好听的元旦简短祝福语