有關 Double 問題? |
|
Jungle
一般會員 發表:5 回覆:18 積分:9 註冊:2002-03-18 發送簡訊給我 |
請教各位高手, 有一段程式如下:
procedure Test;
var D1,D2,D3:Double;
begin
D1:=Query1.FieldByName('F1').AsFloat;
D2:=Query1.FieldByName('F2').AsFloat;
D3:=Query1.FieldByName('F3').AsFloat;
if D1*D2<>D3 then
begin
ShowMessage('不相等!');
end;
end;
今天有一筆資料 D1=6, D2=10.8 D3=64.8, 照理說 D1*D2 應該等於 D3
6*10.8=64.8 , 但是程式就是不等於6*10.8<>64.8。 用 Watch 去看,型態設 Default 則看到的數字如下:
D1*D2=64.8 D3=64.8
型態設 Floating point 則看到的數字如下:
D1*D2=64.800000000000043 D3=64.79999999999999993 請教各位高手, 這種浮點數問題該如何解決??
感激不盡!
|
danny
版主 發表:100 回覆:522 積分:595 註冊:2002-03-11 發送簡訊給我 |
引言: 請教各位高手, 有一段程式如下: procedure Test; var D1,D2,D3: Currency; begin D1:=Query1.FieldByName('F1').AsCurrency; D2:=Query1.FieldByName('F2').AsCurrency; D3:=Query1.FieldByName('F3').AsCurrency; if D1*D2<>D3 then begin ShowMessage('不相等!'); end; end; 今天有一筆資料 D1=6, D2=10.8 D3=64.8, 照理說 D1*D2 應該等於 D3 6*10.8=64.8 , 但是程式就是不等於6*10.8<>64.8。 用 Watch 去看,型態設 Default 則看到的數字如下: D1*D2=64.8 D3=64.8 型態設 Floating point 則看到的數字如下: D1*D2=64.800000000000043 D3=64.79999999999999993 請教各位高手, 這種浮點數問題該如何解決?? 感激不盡!這是精確度的問題, Delphi 的建議是 Float / Double 是為了向前相容才存在的, 以後不再支援了(Delphi .NET 就不知道了), 就像 DBGrid.OnDrawDataCell 一樣.
------
將問題盡快結案也是一種禮貌! |
Jungle
一般會員 發表:5 回覆:18 積分:9 註冊:2002-03-18 發送簡訊給我 |
本站聲明 |
1. 本論壇為無營利行為之開放平台,所有文章都是由網友自行張貼,如牽涉到法律糾紛一切與本站無關。 2. 假如網友發表之內容涉及侵權,而損及您的利益,請立即通知版主刪除。 3. 請勿批評中華民國元首及政府或批評各政黨,是藍是綠本站無權干涉,但這裡不是政治性論壇! |