如何不損失精確度 |
|
鈴鐺
初階會員 發表:33 回覆:81 積分:35 註冊:2002-03-13 發送簡訊給我 |
以下這個 sample, 示範了, 將 user 輸入的浮點數字串, 乘以 1000 之後轉換成整數, 可以看到, 即使用 long double 當成中間轉換用變數, 仍然是不正確,
只有 Currency 正確
// BCB #include結果 sizeof(float)=4 sizeof(double)=8 sizeof(long double)=10 0.120 119 119 120 120 0.121 120 120 121 121 0.122 122 121 122 122 0.123 123 122 123 123 0.124 123 123 124 124 0.125 125 125 125 125 0.126 126 126 125 126 0.127 127 127 127 127 0.128 128 128 127 128 0.129 128 129 129 129 |
本站聲明 |
1. 本論壇為無營利行為之開放平台,所有文章都是由網友自行張貼,如牽涉到法律糾紛一切與本站無關。 2. 假如網友發表之內容涉及侵權,而損及您的利益,請立即通知版主刪除。 3. 請勿批評中華民國元首及政府或批評各政黨,是藍是綠本站無權干涉,但這裡不是政治性論壇! |