Die Fließkommazahlen in LabVIEW entsprechen dem ANSI/IEEE-Standard 754-1985. Mit diesem ANSI/IEEE-Standard für Fließkommazahlen können aber nicht alle reellen Zahlen dargestellt werden. Daher können Vergleiche mit Fließkommazahlen auf Grund von Rundungsfehlern zu unerwarteten Ergebnissen führen. Zum Vermeiden von falschen Ergebnissen können die Fließkommazahlen auf Integer-Werte gerundet werden. Wenn beispielsweise ein Rechenergebnis mit zwei Kommastellen ausgegeben werden soll, ist die Fließkommazahl mit 100 zu multiplizieren und das Produkt anschließend auf eine ganze Zahl zu runden. Sie können auch überprüfen, ob zwei Fließkommazahlen nah beieinander liegen oder gleich sind. Wenn z. B. der absolute Wert der Differenz von zwei Fließkommazahlen kleiner ist als die definierte Toleranz, kann angenommen werden, dass die Zahlen gleich sind.

Weitere Einzelheiten zu Bits numerischer Datentypen, Ziffern und Bereichen finden Sie in der Übersicht über die numerischen Datentypen in LabVIEW. Es gibt drei Arten von Fließkommazahlen:

Single (SGL)—Fließkommazahlen einfacher Genauigkeit liegen im 32-Bit-Single-Format nach IEEE vor. Fließkommazahlen mit einfacher Genauigkeit eignen sich immer dann, wenn der Speicherbedarf niedrig gehalten werden muss und kein Überlauf des Wertebereichs auftreten kann.
Double (DBL)—Fließkommazahlen doppelter Genauigkeit liegen im 64-Bit-Double-Format nach IEEE vor. Die doppelte Genauigkeit ("Double") gilt als Standardformat für numerische Objekte. In den meisten Fällen wird empfohlen, Fließkommazahlen mit doppelter Genauigkeit zu verwenden.
Erweitert (EXT)—Wenn Sie Werte erweiterter Genauigkeit speichern, wendet LabVIEW das plattformunabhängige 128-Bit-Format an. Größe und Genauigkeit sind je nach Plattform unterschiedlich. Fließkommazahlen erweiterter Genauigkeit sollten nur verwendet werden, wenn es unbedingt notwendig ist. Die Geschwindigkeit und Genauigkeit bei diesem Zahlenformat ist von Plattform zu Plattform unterschiedlich.

Die VIs zur Datenerfassung geben häufig Arrays aus Fließkommazahlen aus.