MathCalc(1.28.1)バグですか？ - か - 2006/02/11(Sat) 21:29:43 [No.958]

└ Re: MathCalc(1.28.1)バグですか？ - Kaneot - 2006/02/19(Sun) 01:34:14 [No.962]

---

並べ替え: [ ツリー順に表示 | 投稿順に表示 ]

---

MathCalc(1.28.1)バグですか？ (親記事) - か A=74961.035-74958; B=74961.035-74950; 結果 A: 3.03500000000349 B: 11.0350000000035 なんでだろう？ [No.958] 2006/02/11(Sat) 21:29:43 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50215)

Re: MathCalc(1.28.1)バグですか？ (No.958への返信 / 1階層) - Kaneot > A=74961.035-74958; > B=74961.035-74950; > > 結果 > A: 3.03500000000349 > B: 11.0350000000035 > > なんでだろう？ 桁落ちですね。バグというか、計算機の精度ということで。 [No.962] 2006/02/19(Sun) 01:34:14 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322)

- HOME - お知らせ(3/8) - 新着記事 - 記事検索 - 携帯用URL - フィード - ヘルプ - 環境設定 -