LabVIEWで使われるSGL, DBL, EXTの有効桁はいくつですか？
使用ソフトウェア: LabVIEW Development Systems
使用ソフトウェア・バージョン: 6.0
使用ソフトウェア・バージョンに特化: N/A
二次のソフトウェア:
|
||||||||||||||||||||||||||||||||||||||||||||||||||
問題: Windows上のLabVIEWでは、小数であるSGL, DBL，EXTはそれぞれ4, 8, 10バイトの数を保持することができますが、有効桁はどれ位までですか？
解決策: それぞれ、
SGL-約８
DBL-約１６
EXT-約１９
の有効桁を持っています。
＜注意＞LabVIEWの表示器は最高１６桁までしか表示されませんが、EXT表示器・制御器はメモリの中に１９桁を保持しています。
関連リンク:
添付:
|
||||||||||||||||||||||||||||||||||||||||||||||||||
報告日時: 09/14/2000
最終更新日: 12/11/2012
ドキュメントＩＤ: 21DFKMDM