float类型的数据和无穷小的比较

    技术2022-07-14  91

    float类型的数据和无穷小的比较

    coding 时,偶尔需要对浮点型数据进行比较,尤其是判断两个浮点型数据是否一致时,需要把两个浮点数之差的绝对值和float.Epsilon比较 其中 float.Epsilon是大于零的最小浮点数(大约为1.401298E-45)

    以判断浮点数只能为 1 -1 和 0 为例

    //和 1 -1 0 比较 if ((Math.Abs(X0) < float.Epsilon || Math.Abs(X0 - 1) < float.Epsilon || Math.Abs(X0 + 1) < float.Epsilon){}

    当然有时候,数据的精确位数达不到1E-45,这样比较是不行的,下图中的第三个数据,就无法满足和0的比较,因为它的绝对值是大于float.Epsilon的 因为数据精度的问题,想要比较,需要把比较的阈值放宽,阈值要比float.Epsilon大,比如可以使用 1E-10,这样上图的第三个数据就可以和1E-10进行比较,

    //和1E-10比较 if ((Math.Abs(-1.224647e-16) < 1E-10)){}

    当然代码中的1E-10 也可以表示成Math.Pow(10,-10) 需要根据项目的需求,结合实际数据的精度,再进行比较

    Processed: 0.008, SQL: 9