MathCalc(1.28.1)バグですか? - か - 2006/02/11(Sat) 21:29:43 [No.958] |
└ Re: MathCalc(1.28.1)バグですか? - Kaneot - 2006/02/19(Sun) 01:34:14 [No.962] |
> A=74961.035-74958; > B=74961.035-74950; > > 結果 > A: 3.03500000000349 > B: 11.0350000000035 > > なんでだろう? 桁落ちですね。バグというか、計算機の精度ということで。 [No.962] 2006/02/19(Sun) 01:34:14 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322) |
この記事への返信は締め切られています。
返信は投稿後 365 日間のみ可能に設定されています。