关于Theano和Tensorflow多GPU使用问题
我使用的是tensorflow-gpu(1.2.1)和Theano(0.9.0),2个4G显存NvidiaQuadroM2000GPU。
1.theano:ValueError:Couldnotinfercontextfrominputs
THEANO_FLAGS="contexts=dev0->cuda0;dev1->cuda1,gpuarray.preallocate=0.95,mode=FAST_RUN,floatX=float32,on_unused_input=warn"pythonconfig.py ERROR(theano.gof.opt):SeqOptimizerapplyERROR:SeqOptimizerapply ERROR(theano.gof.opt):Traceback: ERROR:Traceback: ERROR(theano.gof.opt):Traceback(mostrecentcalllast): File"/usr/lib/python2.7/site-packages/theano/gof/opt.py",line235,inapply sub_prof=optimizer.optimize(fgraph) File"/usr/lib/python2.7/site-packages/theano/gof/opt.py",line87,inoptimize ret=self.apply(fgraph,*args,**kwargs) File"/usr/lib/python2.7/site-packages/theano/gpuarray/opt.py",line322,inapply target=infer_context_name(*fgraph.inputs) File"/usr/lib/python2.7/site-packages/theano/gpuarray/basic_ops.py",line122,ininfer_context_name raiseValueError("Couldnotinfercontextfrominputs") ValueError:Couldnotinfercontextfrominputs
theano不能自动支持多GPU,需要自己指定一个,只能在一个上面跑,需要指定一个设备device=cuda0。
支持多GPU,需要自己编程,参考http://deeplearning.net/software/theano/tutorial/using_multi_gpu.html#
2.tensorflow:ResourceExhaustedError:OOMwhenallocatingtensorwith
theano:MemoryError:Errorallocating1440000000bytesofdevicememory(outofmemory).
说明GPU内存不够,要调小输入或网络单元。
3.theano切换成新的GPUbackend
WARNING(theano.sandbox.cuda):Thecudabackendisdeprecatedandwillberemovedinthenextrelease(v0.10)
theano0.9.0从cudabackend切换gpuarraybackend,需要安装python2-Cython-0.25+和libgpuarray-0.6.3+,然后通过gpuarray.preallocate来指定。
补充知识:pytorch网络输入图片通道在前在后(channel_first和channel_last)的问题
刚开始学习pytorch卷积神经网络的时候,网络输入要求是(batch,3,32,32),我们如果想要测试自己电脑上的图片格式为(32,32,3)。即网络要求channel_first,本地图片是channel_last,此时我们只需要使用numpy中的np.transpose()函数调整下通道的顺序即可。
代码如下:
importnumpyasnp importcv2 path=r"C:\Users\X_man\Desktop\image\cat.jpg" image=cv2.imread(path,0) image=cv2.resize(image,(32,32)) image=cv2.cvtColor(image,cv2.COLOR_GRAY2BGR) print(image.shape)
(32,32,3)
image=np.transpose(image,(2,0,1))
print(image.shape)
(3,32,32)
以上这篇关于Theano和Tensorflow多GPU使用问题就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。