請(qǐng)教,，那位大俠能解決宏程序計(jì)算中的數(shù)值溢出問(wèn)題

少年游 · 發(fā)表于 2009-9-6 12:15:43

最近編了一個(gè)宏程序，其中有一個(gè)計(jì)算數(shù)值的程序段“#110=6.0-6.3+0.3”其結(jié)果應(yīng)該得0,。但在存儲(chǔ)器中顯示的是“******" 這應(yīng)該是十進(jìn)制轉(zhuǎn)換為二進(jìn)制計(jì)算后出現(xiàn)的溢出現(xiàn)象,，但要是采用取整的方法，加工精度會(huì)受到影響,。請(qǐng)教各位大俠,，是否有更好的方法。

車刀 · 發(fā)表于 2009-9-6 16:00:15

用INT表示向上取整,，假如你要的精度是0.001,，那么
#110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000

少年游 · 發(fā)表于 2012-1-19 13:31:08

謝謝大俠指教{:soso_e179:}

		自動(dòng)登錄	找回密碼
密碼			注冊(cè)會(huì)員