固定小数点数を使用する際の注意とアドバイス
- 更新日2025-08-27
- 2分で読める
以下のリストは、固定小数点を使用する際の注意とアドバイスを示します。
- 固定小数点のサイズを増加する数値関数を含むループにシフトレジスタを追加すると、タイプ情報の伝搬でサイクルが作成される可能性があります。データ量がLabVIEWが受け入れることが可能な最大ワード長、または指定する最大ワード長に近づくと、オーバーフローが発生する可能性があります。オーバーフローの処理について数値関数を構成しない場合、LabVIEWはデータを不動小数点の表記に変換して発生する可能性のあるデータの損失とVIの破損を回避します。
- 指定するワード長はターゲットが受け入れる最大ワード長を超える場合があります。この問題が発生すると、LabVIEWは可能な最大の長さにワード長を設定して、オーバーフローと丸め込み用にデフォルト設定を使用します。デフォルトでは、ワード長は最上位ビットを保持します。このワード長の減少は値を丸め込みますが、オーバーフローは阻止します。ターゲットで利用可能な最大ワード長は、ターゲットのドキュメントで確認してください。
- LabVIEWおよびその他のアプリケーションは、基数を2とするシステムのバイナリ形式で固定小数点数をエンコードします。小数点システムは底10であるため、小数点で正確にすべての小数点の値を表すことはできません。たとえば、0.1は10進数形式で正確に表すことができますが、0.1を32ビットのワード長および16ビットの整数ワード長で小数点数に変換する場合、LabVIEWは底2で表記可能な0.100006に有理数を変換します。