LabVIEW中的浮点数符合ANSI/IEEE标准754-1985。不是所有实数均可表示为ANSI/IEEE标准浮点数。因此,使用浮点数的比较可能会由于舍入误差导致非预期的错误。如要避免不精确的结果,可将浮点数取整。例如,如希望计算结果保留两位精度,先将浮点数乘以100,然后在计算完成之前将乘积舍入为一个整型数。也可检查两个浮点数是否接近,是否相等。例如,如两个浮点数的差的绝对值小于定义的宽容度,即可认为这两个数相等。

更多关于数值数据类型的二进制位、数位和范围的信息,见数值数据类型表。浮点数有三种类型。

单精度(SGL) - 单精度浮点数为32位IEEE单精度格式。内存空间有限,且不会出现数值范围溢出时,应使用单精度浮点数。
双精度(DBL) - 双精度浮点数为64位IEEE双精度格式。双精度时数值对象的默认格式。大多数情况下,应使用双精度浮点数。
扩展精度(EXT) - 保存扩展精度数到磁盘时,LabVIEW将其保存为独立于平台的128位格式。内存中,大小和精度根据平台有所不同。仅在必需时,才使用扩展精度的浮点数。扩展精度算术的运行速度根据平台有所不同。

数据采集VI返回的通常是浮点数数组。