当前位置: 代码迷 >> 综合 >> CAPL脚本中常用到的数据类型转换—— 浮点数(Float32)和整型(U32)的转换
  详细解决方案

CAPL脚本中常用到的数据类型转换—— 浮点数(Float32)和整型(U32)的转换

热度:45   发布时间:2023-09-20 13:48:18.0

IEEE754 标准定义了浮点数再计算中的存储方式,下面这篇博客很详细的讲解了:

IEEE754

CAPL 提供了两个API,可以实现Float32和U32 ; Float64和U64之间的转换
CAPL脚本中常用到的数据类型转换—— 浮点数(Float32)和整型(U32)的转换

测试代码

  {
    // Float32 转 U32float in_float = 123.456;   dword out_dword;   out_dword = interpretAsDword(in_float);    write("out_dword =0x%x, ",out_dword);  }{
    //U32 转 Float32dword in_dword = 0x42f6e979;  float out_float;out_float = interpretAsFloat(in_dword);    write("out_float =%.3f, ",out_float);  }

测试结果:

out_dword =0x42f6e979, 
out_float =123.456001, 

下面的网站可以测试验证,发现是一致的。
CAPL脚本中常用到的数据类型转换—— 浮点数(Float32)和整型(U32)的转换

  相关解决方案