[ リストに戻る ]
No.962へ返信

all MathCalc(1.28.1)バグですか? - か - 2006/02/11(Sat) 21:29:43 [No.958]
Re: MathCalc(1.28.1)バグですか? - Kaneot - 2006/02/19(Sun) 01:34:14 [No.962]


Re: MathCalc(1.28.1)バグですか? (No.958 への返信) - Kaneot

> A=74961.035-74958;
> B=74961.035-74950;
>
> 結果
> A: 3.03500000000349
> B: 11.0350000000035
>
> なんでだろう?


桁落ちですね。バグというか、計算機の精度ということで。


[No.962] 2006/02/19(Sun) 01:34:14
Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322)

この記事への返信は締め切られています。
返信は投稿後 365 日間のみ可能に設定されています。


- HOME - お知らせ(3/8) - 新着記事 - 記事検索 - 携帯用URL - フィード - ヘルプ - 環境設定 -

Rocket Board Type-T (Free) Rocket BBS