环境:ubuntu18.04,conda4.7.12,python3.6.9,tensorflow-gpu1.14,编译器pycharm。
训练3dcnn,在优化步骤报错no algorithm worked。
一开始还以为是tensorflow-gpu不支持3dcnn,因为同样程序在tensorflow-cpu版可以正常训练,而且报的错误也不是OOM。
后来发现就是因为显存不够,降低batchsize即可
环境:ubuntu18.04,conda4.7.12,python3.6.9,tensorflow-gpu1.14,编译器pycharm。
训练3dcnn,在优化步骤报错no algorithm worked。
一开始还以为是tensorflow-gpu不支持3dcnn,因为同样程序在tensorflow-cpu版可以正常训练,而且报的错误也不是OOM。
后来发现就是因为显存不够,降低batchsize即可