四捨五入を行なう方法
使用ソフトウェア: LabVIEW Development Systems
使用ソフトウェア・バージョン: 1.0
使用ソフトウェア・バージョンに特化: N/A
二次のソフトウェア: N/A
|
||||||||||||||||||||||||||||||||||||||||||||||||||
問題:
四捨五入をおこなうにはどうすればよいですか？
解決策:
添付されているVIをお使いください。任意の桁数で四捨五入が可能です。LabVIEW7.1以降のバージョンで使用できます。
四捨五入して整数にする場合は、「最近値に丸め込み」関数を使うことができますが、DBL型などで0.5と入力した場合は出力が0になります。これは、丸め誤差によるものです。0.5000000.......1とわずかでも0.5を超えている場合は、四捨五入されて、結果は1になります。
関連リンク:
添付:
shishagonyu_71.vi
|
||||||||||||||||||||||||||||||||||||||||||||||||||
報告日時: 04/26/2001
最終更新日: 01/26/2017
ドキュメントＩＤ: 28P69L1I