在使用数学函数命令FRAC的时候。取88.9的小数位时用的FRAC的数据类型是Real,MD52上的数据不是0.9而是0.8999如果变成了图片中的把FEAC的数据类型LREAL就成了0.9 这是为什么 ?实数不是32位的吗 我这个MD52不是正好是REAL吗为什么要用成LREAL?
图片说明:
e04ef05ac8b9119c1bdd0800DA4338af
最佳答案
这个的原因的根本原因是浮点数不能在计算机中精确存储。
可以看一下REAL的格式,如截图。
数字=1.m×2的(e–偏差)次方
此处:
e:1<=e<=254
偏差:偏差=127。这意味着不需为指数附加符号。
S:对于正数,S=0;对于讯数,S=1。
实际上这种表示方法只能近似等于该浮点数,并不能精确等于。
我做了个实验看截图。比较发现MD33的后几位都是0。
我的猜想,由于REAL运算时精度的问题,有些位被省去了。
实际上MD40也不能真正的0.9,只是比MD30更接近罢了。
一般那情况下,两者都可以使用,精度要求较高的情况下,建议使用LREAL类型数据。
图片说明:
5e00fb936dc34eb54024555d125c908e176c3102d00c24ca18dFCb160d163111
提问者对于答案的评价: