znz43
工控職業(yè)已成回憶 只因愛好常回家園 樂此不疲
級別: 工控俠客
![]() ![]() |
很正常,浮點數(shù)的有效位數(shù)只有7位。 |
|
---|---|---|
|
lifeison
級別: 探索解密
![]() |
已知A=22400,B=0.005625,求C 你說C=125.99999正常?請用計算器算一下! |
---|---|
|
cvlsam
富士低壓,POD(觸摸屏),PLC專賣
級別: VIP會員
![]() ![]() ![]() ![]() |
您需要去了解一下IEEE754浮點數(shù)與我們PC上常說的浮點數(shù)的區(qū)別。 Good Luck~ |
---|---|
|
sjbandmm
級別: 略有小成
![]() |
浮點數(shù)進度問題,可以用雙精度浮點數(shù)來解決問題,如果還不能達到精度,只能換成整數(shù)計算再轉(zhuǎn)換為浮點數(shù),只要是帶小數(shù)的浮點數(shù)都是可能存在誤差的,只有整數(shù)乘法沒有誤差。另外說一句,對于人家的回答,不管是對錯,都要注意自己的態(tài)度! |
---|---|
|
tkggtdkjpl
工欲善其事,必先利其器!
級別: 網(wǎng)絡(luò)英雄
![]() ![]() |
把22400改成22400.0試試。 |
|
---|---|---|
|