lifeison
級(jí)別: 探索解密
|
圖片:
圖片:
如圖的兩種運(yùn)算方法,運(yùn)算結(jié)果都有偏差! |
---|---|
|
znz43
工控職業(yè)已成回憶 只因愛好常回家園 樂此不疲
級(jí)別: 工控俠客
|
很正常,浮點(diǎn)數(shù)的有效位數(shù)只有7位。 |
|
---|---|---|
|
lifeison
級(jí)別: 探索解密
|
已知A=22400,B=0.005625,求C 你說C=125.99999正常?請(qǐng)用計(jì)算器算一下! |
---|---|
|
cvlsam
富士低壓,POD(觸摸屏),PLC專賣
級(jí)別: VIP會(huì)員
|
您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說的浮點(diǎn)數(shù)的區(qū)別。 Good Luck~ |
---|---|
|
sjbandmm
級(jí)別: 略有小成
|
浮點(diǎn)數(shù)進(jìn)度問題,可以用雙精度浮點(diǎn)數(shù)來解決問題,如果還不能達(dá)到精度,只能換成整數(shù)計(jì)算再轉(zhuǎn)換為浮點(diǎn)數(shù),只要是帶小數(shù)的浮點(diǎn)數(shù)都是可能存在誤差的,只有整數(shù)乘法沒有誤差。另外說一句,對(duì)于人家的回答,不管是對(duì)錯(cuò),都要注意自己的態(tài)度! |
---|---|
|
tkggtdkjpl
工欲善其事,必先利其器!
級(jí)別: 網(wǎng)絡(luò)英雄
|
把22400改成22400.0試試。 |
|
---|---|---|
|