基本情報・ソフトウェア開発技術者試験Part2
加算減算では有効数字は有効な桁のうちで最下位の桁が大きいほうに合わせる。
例えば、12.25と1.234なら前者は小数第2位まで、後者は小数第3位までなので
結果の有効数字は小数第2位まで。
1.25*10^10と3.27*10^8なら前者は10の8乗の位まで、後者は10の6乗の位まで
よって結果の有効数字は10の8乗の位まで。
一方、乗算除算では有効数字は小さい方に合わせる。
有効数字2桁と3桁の掛け算だろうが、2桁と100桁の割り算だろうが
結果の有効数字は2桁。
この問題の場合具体的な数値がわからないので、加算減算の有効数字は求めようが無い
よって正解はウ
例えば、12.25と1.234なら前者は小数第2位まで、後者は小数第3位までなので
結果の有効数字は小数第2位まで。
1.25*10^10と3.27*10^8なら前者は10の8乗の位まで、後者は10の6乗の位まで
よって結果の有効数字は10の8乗の位まで。
一方、乗算除算では有効数字は小さい方に合わせる。
有効数字2桁と3桁の掛け算だろうが、2桁と100桁の割り算だろうが
結果の有効数字は2桁。
この問題の場合具体的な数値がわからないので、加算減算の有効数字は求めようが無い
よって正解はウ
|
|
|