关于运算顺序影响计算机精度的那些事

    技术2024-02-18  74

    关于运算顺序影响计算机精度的那些事

    第一张图: 第二张图: 解释一下:上图的式子是求椭球体理论值的式子。我赋了相同的值,但是得到了差距很大的两个不同结果。 相信很多大佬早就明白,这是误差。我知道一定会产生误差,但是产生这么大的误差我是没想到的。我用的float,如果用double是不是会好一点呢?(仅仅是推测,无根据,待验证)

    Processed: 0.010, SQL: 9