Quelle est la différence de précision entre les données de type float et double ?French Prim Software: LabWindows/CVI Development Systems>>Full Development SystemFrench Prim Software Ver: 6.0 French Fixed Ver: N/A French Sec Software: N/A
Problème: J’hésite entre utiliser les données de type float ou double dans mon programme. Quelle est la différence entre ces deux types de données ? Solution: Une variable de type float n’a une précision que d’environ 7 chiffres alors qu’une variable de type double aura une précision d’environ 15 chiffres. Pour une meilleure précision, utilisez les données de type double au lieu de celles de type float. En utilisant des données à virgule flottante, vous aurez des données arrondies de la manière suivante : Value entered => Value in the floating-point standard 1.34 => 1.340000 51.4 => 51.400002 112.56 => 112.559998 Ce comportement est attendu. Pour toute question concernant la perte de précision de nombres à virgule flottante, référez vous au lien rattaché. Liens rattachés: KnowledgeBase 2T7G1PQ8: Why Do My Floating Point Numbers Lose Precision? Pièces jointes:
Date du rapport: 06/28/2006 Dernière mise à jour: 05/12/2008 ID du document: 3YR9MJUR |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
