関数電卓、買うならどれが良い?@電気・電子 Part4
1 :
774ワット発電中さん:
2 :
774ワット発電中さん:05/01/05 04:36:29 ID:NGDPEDuk
有効桁12と言ったら、11桁までは真値に一致しているのが当然で、
ずれて良いのは最後の一桁だけ。
HPのは単に表示してるだけであってなんら精度に対する保証がない。
詐欺商品だろこれ。
Sin(π-0.01)
Mathematicaによる正確な値40桁
0.009999833334166664682542438269099729038964
TI Voyage200(TI-89,TI-92etc)
0.0099998333341667
HP-49G
0.00999983333396
TI圧勝。TI完璧。
HPは総じて手抜き商品ですな。
いつどこでどうウソ付かれるか判ったもんじゃない、怖くて使えない。
数表以下。
ちなみに、Mathematicaで
ArcSin[0.009999833334166664682542438269099729038964]
=0.01000000000000000000000000000000000000000
なのでこの値は完璧ね。
3 :
774ワット発電中さん:05/01/05 04:37:11 ID:NGDPEDuk
ちなみに、
3.0*5.0=15
と
2.0*5.0=10
でも比較は可能である。
なぜなら、比較しているのは計算値ではなくて
「最大機械精度の入力に対して精度が一度の演算でどう変化するのか」
だからだ。
つまり
3.0*5.0=15は有効桁が2→2
2.0*5.0=10も有効桁が2→2
なので
「最大機械精度の入力に対して精度が一度の演算でどう変化するのか」
の比較に対して二つの結果は差異がないと結論できる。
4 :
774ワット発電中さん:05/01/05 04:37:49 ID:NGDPEDuk
5 :
774ワット発電中さん:05/01/05 04:38:52 ID:NGDPEDuk
って、いくらなんでも早すぎないか?
待機保守
哀れ電卓Q。思惑大外れ。