La résolution est le plus petit changement du signal en entrée que le périphérique ou le capteur peut détecter. Le nombre de bits utilisé pour représenter un signal analogique détermine la résolution du convertisseur A/N. Vous pouvez comparer la résolution d'un périphérique de mesure aux graduations d'une règle. Plus le nombre de marques est élevé, plus vos mesures sont précises. De la même façon, plus la résolution est élevée, plus votre système peut diviser la gamme du convertisseur A/N en un nombre de divisions important et plus il sera à même de détecter de petits changements.

Un convertisseur A/N à 3 bits divise la gamme en 23 ou 8 divisions. Un code binaire ou numérique compris entre 000 et 111 représente chaque division. Le convertisseur A/N convertit chaque mesure du signal analogique en une division numérique. La figure suivante montre l'image numérique d'un signal sinusoïdal obtenue par un convertisseur A/N à 3 bits. De toute évidence, le signal numérique ne représente pas le signal original correctement car le convertisseur ne possède pas assez de divisions numériques pour représenter les tensions variables du signal analogique. Toutefois, en augmentant la résolution à 16 bits, le nombre de divisions du convertisseur A/N passe de 8 à 65 536 (216). Le convertisseur A/N peut alors obtenir une représentation extrêmement précise du signal analogique.