Fluent单精度与双精度区别：精度选择指南

Fluent在启动界面，会有数据精度选项的设置

先说结论：始终勾选“double precision”选项，让Fluent 程序 运行于双精度模式下。

1 什么是精度

       精度是编程中的概念，表示了数据存储的精确性。举例，2/3，在1位小数精度下为0.7，在3位小数精度下则为0.667。很显然，数据存储的精度越高，则数值计算的准确性越好，但是消耗更多的硬件资源。

       单精度和双精度都是IEEE 754标准中规定的数字存储方法，其中单精度数字需要32比特空间，双精度需要64比特空间。根据IEEE 754标准中的规定可得知，单精度数字范围2^-126到2^127，双精度数字范围2^-1022到2^1023。

2 精度在Fluent的影响

       Fluent采用C语言编写，C语言中的 数据类型  ，float和double分别对应于IEEE 754标准的单精度和双精度数字。

       由于双精度数据有更长的小数位，因此相对于单精度数据，在求解的准确性上会有少许提升，数值截断误差更小。对于初始条件敏感、存在大梯度或者物理量跨越多个数量级的问题，单精度模式下的求解精度、计算收敛性等会急剧恶化。

       硬件层面，计算时间、内存占用和磁盘空间占用更多的受到 物理机  理、网格数量、算法设置的影响，数据精度对于这些方面的影响极小，可以忽略不计。

       对同一案例用单精度和双精度做对比。设置完全相同，且初始化均采用标准初始化，计算域所有部分温度均指定为300 K。对比可发现，双精度下的初始化结果没有微小的数值波动，但是单精度模式存在微小的数值波动

单精度模式的初始化结果

双精度模式的初始化结果

免责声明：本文系网络转载或改编，未找到原创作者，版权归原作者所有。如涉及版权，请联系删