量子化器
- 更新日2023-02-17
- 3分で読める
量子化器
連続入力信号を離散状態に量子化します。
入力/出力
入力
入力信号です。
この入力は、倍精度浮動小数点数または倍精度浮動小数点数の配列を受け付けます。
量子化間隔
量子化レベルの高さです。
この入力は、倍精度浮動小数点数または倍精度浮動小数点数の配列を受け付けます。
Default value: 1
量子化タイプ
量子化器のタイプです。
この入力はリングまたはリングの配列を受け付けます。
| ミッドトレッド型 | 0 | ミッドトレッド型の量子化器を使用します。 |
| ミッドライザ型 | 1 | ミッドライザ型の量子化器を使用します。 |
| +inf方向に丸める | 2 | 入力要素を+Inf方向の最も近い整数に丸めます。 |
| -inf方向に丸める | 3 | 入力要素を-Inf方向の最も近い整数に丸めます。 |
| ゼロ方向へ丸める | 4 | 入力要素をゼロ方向の最も近い整数に丸めます。 |
| ゼロ方向と逆へ丸める | 5 | 入力要素をゼロと逆方向の最も近い整数に丸めます。 |
Default value: ミッドトレッド型
ミッドトレッド型量子化器のアルゴリズム定義
ミッドトレッド型量子化器は、以下の式を使用して入力信号を量子化します。
ここで、
- yは出力信号
- uは入力信号
- は量子化間隔
ミッドライザ型量子化器のアルゴリズム定義
ミッドライザ型量子化器は、以下の式を使用して入力信号を量子化します。
ここで、
- yは出力信号
- uは入力信号
- は量子化間隔
出力
出力信号です。
この出力は、倍精度浮動小数点数または倍精度浮動小数点数の配列を返すことができます。