LabVIEWで使われるSGL, DBL, EXTの有効桁はいくつですか?



使用ソフトウェア: LabVIEW Development Systems
使用ソフトウェア・バージョン: 6.0
使用ソフトウェア・バージョンに特化: N/A
二次のソフトウェア:

問題: Windows上のLabVIEWでは、小数であるSGL, DBL,EXTはそれぞれ4, 8, 10バイトの数を保持することができますが、有効桁はどれ位までですか?

解決策: それぞれ、
SGL-約8
DBL-約16
EXT-約19
の有効桁を持っています。

<注意>LabVIEWの表示器は最高16桁までしか表示されませんが、EXT表示器・制御器はメモリの中に19桁を保持しています。

関連リンク:

添付:





報告日時: 09/14/2000
最終更新日: 12/11/2012
ドキュメントID: 21DFKMDM