测量设备可检测的输入信号的最小变化，称为编码宽度，由测量设备的精度和设备范围确定。编码宽度越小，测量精度越高。

可通过下列公式计算编码宽度：

  • 编码宽度 = 设备量程/2分辨率

例如，12位测量设备的电压量程是0至10 V，则可检测的最小变化为2.4 mV；如设备量程是-10至10 V，则可检测的最小变化为4.8 mV。

  • 设备量程/ 2分辨率 = 10/212 = 2.4 mV
  • 设备量程/ 2分辨率 = 20/212 = 4.8 mV

对于此前给定的设备电压量程，高精度A/D转换器(ADC)具有较小的编码宽度。

  • 设备量程/ 2分辨率 = 10/216 = 0.15 mV
  • 设备量程/ 2分辨率 = 20/216 = 0.3 mV

下表为12位测量设备编码宽度随设备量程的变化。设备依据创建虚拟通道时指定的输入限制选择最佳量程。选择准确反映待测信号的输入限制以获取最小的编码宽度。NI-DAQmx可强制转换输入限制符合选定的设备量程。

整体设备量程 可能的带增益调整的设备量程 精度[1]1 12位模数转换器1个最低有效位(LSB)的值。即12位ADC中的计数值1对应相应的电压增量。
0 V～10 V
  • 0 V～10 V
  • 0 V～5 V
  • 0 V～2.5 V
  • 0 V～1.25 V
  • 0 V～1 V
  • 0 V～0.1 V
  • 0～20 mV
  • 2.44 mV
  • 1.22 mV
  • 610 µV
  • 305 µV
  • 244 µV
  • 24.4 µV
  • 4.88 µV
-5 V～5 V
  • -5 V～5 V
  • -2.5 V～2.5 V
  • -1.25 V～1.25 V
  • -0.625 V～0.625 V
  • -0.5 V～0.5 V
  • -50～50 mV
  • -10～10 mV
  • 2.44 mV
  • 1.22 mV
  • 610 µV
  • 305 µV
  • 244 µV
  • 24.4 µV
  • 4.88 µV
-10 V～10 V
  • -10 V～10 V
  • -5 V～5 V
  • -2.5 V～2.5 V
  • -1.25 V～1.25 V
  • -1 V～1 V
  • -0.1 V～0.1 V
  • -20～20 mV
  • 4.88 mV
  • 2.44 mV
  • 1.22 mV
  • 610 µV
  • 488 µV
  • 48.8 µV
  • 9.76 µV
备注 NI 4472为24位设备，设备量程为-10 V至10 V。保留1位，有效精度为23位。编码宽度为20/223 = 2.38 µV。

1 12位模数转换器1个最低有效位(LSB)的值。即12位ADC中的计数值1对应相应的电压增量。