Die Auflösung ist die kleinste Differenz im Eingangssignal, die ein Gerät oder Sensor erkennen kann. Bei A/D-Wandlern hängt die Auflösung von der Bitanzahl zur Darstellung des Analogsignals ab. Die Auflösung eines Messgeräts ist mit den Unterteilungslinien eines Lineals vergleichbar. Je mehr Unterteilungslinien, desto genauer ist die Messung. Je höher die Auflösung ist, desto genauer kann das Eingangssignal wiedergegeben werden. Demzufolge können kleinere Spannungsänderungen erkannt werden als bei einer geringeren Auflösung.

Bei einem 3-Bit-A/D-Wandler wird der Bereich in 23 bzw. acht Abschnitte aufgeteilt. Jeder Abschnitt wird durch eine Binärfolge zwischen 000 und 111 dargestellt. Der A/D-Wandler wandelt jeden gemessenen Abschnitt des analogen Signals in eine der binären Unterteilungen um. In der folgenden Abbildung sehen Sie das von einem 3-Bit-A/D-Wandler empfangene digitale Bild einer Sinusschwingung mit 5 kHz. Es ist eindeutig erkennbar, dass das digitale Signal das ursprüngliche Signal nicht genau wiedergibt, da die grobe Unterteilung des Signals für den häufigen Spannungswechsel nicht geeignet ist. Durch Erhöhen der Auflösung auf 16 Bit wird das Signal dagegen vom A/D-Wandler nicht nur acht Mal, sondern 65.536 (216) Mal unterteilt. Damit kann der A/D-Wandler das analoge Signal extrem genau wiedergeben.