ノイズのないDMMでは、分解能は入力信号における最小の変化で、平均して出力信号で変化を表します。分解能は、相互に関連したビット、桁数、または絶対単位で表されます。

ビット

分解能をビットで表す場合は、特にA/D変換器 (ADC) の性能を示しています。論理上では、12ビットのADCでアナログ入力信号を212 (4,096) の値に変換します。4,096は最下位ビット (LSB) 数です。LSBは桁数の分解能に変換できます。

分解能の桁数 = log10 (LSBの数)

上記の等式を使用すると、12ビットADCのDMMにおける分解能は次のようになります。

Log10 (4,096) = 3.61桁

メモ DMMで12ビットADCを使用して信号をデジタル化する場合、ノイズも考慮する必要があるため、このDMMを31/2桁DMMと呼ぶのは適当ではありません。ノイズによってLSB数、またそれによって桁数が削減する可能性があります。

DMMの絶対単位および分解能の桁数

従来型DMMでの5½桁とは、DMMの読み出しに表示される桁数を示します。従来型5½桁DMMは、0~9の値で表わされる5桁と、0または1のみで表わされる半桁を表示します。このDMMは、0~199,999の正または負の値を表示できます。

精巧なデジタル計測器、特に仮想計測器では、分解能の桁数は読み出しに表示される桁数に直接反映されません。

絶対単位

DMMのカウントはADCではLSBに類似しています。カウントは、信号のデジタル化可能な数値を意味し、量子化器におけるステップに相当します。カウント数またはステップサイズは、分解能の絶対単位です。

分解能の絶対単位 = 合計スパン/カウント数

桁数は次のように定義できます。

分解能の桁数 = log10 (合計スパン/分解能の絶対単位)

たとえば、200,000カウント使用可能な10 Vレンジ (20 V合計スパン) に設定されたノイズのないDMMでは、分解能の絶対単位は次のようになります。

分解能の絶対単位 = 20.0 V/200,000 = 100 µV

このノイズのないDMMの読み出しには6桁が表示されます。最後の桁における変化は、入力信号が100 µV変化したことを示します。

18ビットのADCは、最小LSB数を提供します。次のように分解能の桁数を計算します。

(217 = 131,072, 218 = 262,144)

分解能の桁数 = log10 (20.0 V/100 x 10-6V)

分解能の桁数= 5.3

このノイズのないDMMは5½桁DMMとなります。

量子化処理によって、変換信号に除去不可能な誤差(量子化ノイズ)が発生します。均一量子化器を通過する入力信号(過負荷歪みなしの状態)の場合、ノイズのないDMMにおける量子化ノイズのrms値は次のように表します。

量子化ノイズのrms = 分解能の絶対単位/√12

現実には、ノイズのないDMMというものは存在しません。そのため分解能の絶対単位を算出する際に、ノイズレベルを考慮する必要があります。ノイズのあるDMMの有効分解能の絶対単位は、ノイズのあるDMMの合計ノイズと同じ量子化ノイズレベルのノイズのないDMMのステップサイズとして定義できます。

有効分解能の絶対単位 = √12 × rmsノイズ

このノイズの多いDMMの有効桁数 (ENOD) は次のように定義します。

ENOD = log10 (合計スパン/有効分解能の絶対単位)

例1

10 Vレンジ (20 V合計スパン) に設定されたDMMで読み取り値が70 µVであるrmsノイズレベルの場合、有効分解能の絶対単位およびENODは次のようになります。

分解能の絶対単位 = √12 × 70 µV = 242.49 µV

ENOD = log10 (20.0 V/242.49×10-6V) = 4.92桁

このDMMは、5桁のDMMとなります。

このDMMに必要な最小カウント数は、20 V/242.49×10-6 V = 82,478です。216 = 65,536、217 = 131,072 なので、最小ビット数は17です。

例2

同じDMMで20 µVのrmsノイズレベルが表示された場合、次のようになります。

分解能の絶対単位 = √12 × 20 µV = 69.28 µV

ENOD = log10 (20 V/69.28×10-6V) = 5.46桁

このDMMは5½桁のDMMと見なします。

このDMMに必要な最小カウント数は、20 V/69.28×10-6 V = 288,675です。218 = 262,144、219 = 524,288 なので、最小ビット数は19です。

次の表は、DMMのビット数、カウント数、ENODを従来の分解能の桁数に当てはめたものです。この表で明らかなように、ビット数、カウント数、ENOD間には確定的な関連性があります。桁数は概算の数字なので、ENODと桁数間には確定的な数学的関連性はありません。