仮数とはなんですか？ 使用ソフトウェア: Measurement Studio>>Enterprise Edition (Full Development System)使用ソフトウェア・バージョン: 1.0 使用ソフトウェア・バージョンに特化: N/A 二次のソフトウェア: N/A
問題: 浮動小数点の数値データタイプは指数部と仮数部としてメモリに格納されるようですが、仮数とは一体どのようなものでしょうか？ 解決策: 数学的な話では、仮数とは整数部分以下の端数部分のことを指します。例えば34.234の仮数部分は.234です。浮動小数点の数値データタイプではデータの格納は符号、指数部分、仮数部分を含んだ形で保存されます。仮数は、1.*** という形式の2進小数として格納されます。この小数の値の範囲は、1 以上 2 未満であり、仮数の最上位ビットが必ず 1 になります。先頭の 1 のすぐ右側には、10 進ではなく 2 進小数点が仮定されます。64ビットの倍精度データタイプの場合は、符号に1ビット、指数部分に11ビット、仮数部分に52ビット使用してメモリに格納しています。浮動小数点の値は以下の公式で記述されます。 (符号) * (1 + 仮数 ) * 2^( 指数 - 1023) 指数の1ビットは指数部分の符号に使用されています。指数部分に負の値を用いることにより1以下の0に近い値が記述されます。 関連リンク: Developer Zone Tutorial: LabVIEW Data Storage 添付:
報告日時: 09/15/2002 最終更新日: 12/31/2007 ドキュメントＩＤ: 2PEEHE2Q |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
