関数電卓、買うならどれが良い?@電気・電子 Part3

このエントリーをはてなブックマークに追加
449774ワット発電中さん
>>446
1.234-1.233では
与式が有効桁4だが
結果を0.001000と書いても末尾の000には全く意味はない。

ここで言っているsignificant(有意・有効)とは機械的に
位取り0を除去した指標に過ぎず、そのような操作の上で成り立つ
概念でしかない。
言葉が「『有効』数字」だからといってその『有効』は
有効という言葉そのものと何ら関係ない別の概念である。
それは1.234-1.233をやってみればわかる事。「『有効』数字」
の『有効』という概念は実際には有意・有効でない事も結論するのがその証左である。

それ故「有効数字」は有効な数字なんてのはまるで理解してない
恥ずかしい発言となる。
それは1.234-1.233=0.001000の末尾の000を有意だと言い張るのと同義である。

あくまでsignificantという概念は誤差伝播の近似理論の中で定義される
特殊な意味と肝に銘じなければならない。