AVRマイコン総合スレ Part14

初心者だと、5%ぐらいの誤差ってのが物理的には意外とマシな方っていう事実を意外と理解できない。

それに、誤差の程度って奴がパッと見で暗算できないから
安物デジタルテスタでも数字がカッチリ出されちゃうと、その数字が真値だと思い込んじゃうんだ。
針式アナログテスタだと気にならない様な程度の誤差であってもね。
フルスケールで0.5%の誤差とすれば、4000カウントで5V計ると40Vレンジでの測定になって
0.2V程度の誤差が出るとかの判断は、多少は慣れないと無理だし。