精度
- 更新日2025-10-21
- 1分で読める
精度とはDMMの安定性を測る目安で、同一信号における測定結果の再現性を表します。分解能は精度の尺度です。精度は次の式で計算します。
精度 = 1 – |Xn – Av(Xn)|/|Av(Xn)|
ここで、
Xn = n 回目の測定値
Av(Xn) = n 回行った測定の平均値
たとえば、1 Vの定電圧を監視し、各測定間での測定値に20 µVの変化がある場合、測定精度は次のようになります。
精度 (1 – 20 μV/1 V) x 100 = 99.998%
精度は、DMMを使用してデバイスを校正する場合や相対測定を行う場合の目安として特に重要です。