当前位置: 代码迷 >> 综合 >> TensorFlow: Resource exhausted: OOM when allocating tensor with shape[256, 512, 16, 16]
  详细解决方案

TensorFlow: Resource exhausted: OOM when allocating tensor with shape[256, 512, 16, 16]

热度:87   发布时间:2023-12-18 01:04:08.0

解决方法如下:

[256, 512, 16, 16]的第一个参数表示batch_size的大小,第二个参数表示某层卷积核的个数,第三个参数表示图像的高,第四个参数表示图像的长 
这里出现这种错误的原因时超出内存了,因此可以适当减小batch_size的大小即可解决,或者将卷积核变小,减少参数,改成[64, 256, 16, 16],其中batch_size一般最大选择256,最小64

  相关解决方案