[計算フォーム]テスタなどの確度仕様（rdg、dgt）から値の範囲を算出

テスタなどの確度仕様は、各測定レンジにおいてそれぞれ「±0.1%(rdg)±3(dgt)」といった感じで記載されていることが多いです。

実際に、値としてどのくらいの範囲に収まるのか？を算出する計算フォームを作ってみました。

確度仕様（rdg、dgt）から、どのくらいの誤差となるか？

確度仕様

±% rdg

±dgt

測定レンジの最小分解能

測定値

誤差：

±

誤差(%)：

±%

誤差の範囲：

～

（例）テスタ「OW18D」の20Vレンジで5Vを測定した時

テスタ「OW18D」の確度仕様は、取説より

となっているので、20Vレンジでの確度仕様は「±（0.1%(rdg)+2(dgt)）」です。また、20Vレンジの分解能は1mV＝0.001Vです。

測定値が5.00Vだったとして、計算すると

• 誤差：±0.007V
• 誤差割合：±0.14%
• 真値のとりうる範囲：4.993V～5.007V

となります。

rdg、dgtとは？

rdgはreadingの略で、測定器の表示値（読み値）のことです。確度仕様では「表示値の何％の誤差が含まれるか」を表します。

dgtはdigitの略で、最小単位の意味です。確度仕様では、「最小分解能の何個分の誤差が含まれるか」を表します。