当前位置: 代码迷 >> 综合 >> Roofline Model与深度学习模型的性能分析
  详细解决方案

Roofline Model与深度学习模型的性能分析

热度:88   发布时间:2024-01-15 03:16:03.0

        任何模型(例如 VGG / MobileNet 等)都必须依赖于具体的计算平台(例如CPU / GPU / ASIC 等)才能展现自己的实力。 模型和计算平台的"默契程度"会决定模型的实际表现。Roofline Model 提出了使用 Operational Intensity(计算强度)进行定量分析的方法,并给出了模型在计算平台上所能达到理论计算性能上限公式。

1. 计算平台的两个指标:算力  与带宽 

  • 算力  :也称为计算平台的性能上限,指的是一个计算平台倾尽全力每秒钟所能完成的浮点运算数。单位是FLOPS。
  • 带宽 :也即计算平台的带宽上限,指的是一个计算平台倾尽全力每秒所能完成的内存交换量。单位是Byte/s。
  • 计算强度上限 
  相关解决方案