Questions marquées «floating-point»

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que les entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 équivaut à 0,300000001?) Ou des erreurs de conversion décimales, veuillez lire la page "info" liée ci-dessous avant de poster.

11
Quelle est la différence entre une opération à virgule flottante simple précision et double précision?
Quelle est la différence entre une opération à virgule flottante simple précision et une opération flottante double précision? Je suis particulièrement intéressé par les termes pratiques liés aux consoles de jeux vidéo. Par exemple, la Nintendo 64 a-t-elle un processeur 64 bits et si c'est le cas, cela signifierait-il qu'elle …
5
Formater / supprimer la notation scientifique des résultats d'agrégation Python Pandas
Comment modifier le format de sortie d'une opération groupby dans les pandas qui produit une notation scientifique pour de très grands nombres? Je sais comment faire le formatage de chaînes en python mais je suis perdu quand il s'agit de l'appliquer ici. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3 1.077142e+08 …
4
Pourquoi la valeur en virgule flottante de 4 * 0,1 est-elle belle dans Python 3 mais pas 3 * 0,1?
Je sais que la plupart des décimales n'ont pas de représentation en virgule flottante exacte (les mathématiques en virgule flottante sont-elles cassées? ). Mais je ne vois pas pourquoi 4*0.1est bien imprimé comme 0.4, mais 3*0.1ne l'est pas, alors que les deux valeurs ont en fait des représentations décimales laides: …
6
Pourquoi Double.MIN_VALUE n'est pas négatif
Quelqu'un peut-il expliquer pourquoi ce Double.MIN_VALUEn'est pas la valeur minimale que les doubles peuvent prendre? C'est une valeur positive, et un Double peut bien sûr être négatif. Je comprends pourquoi c'est un nombre utile, mais cela semble un nom très peu intuitif, surtout par rapport à Integer.MIN_VALUE. L'appeler Double.SMALLEST_POSITIVEou MIN_INCREMENTou …
16
Comparez les flotteurs en PHP
Je veux comparer deux flottants en PHP, comme dans cet exemple de code: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } Dans ce code, il renvoie le résultat …
9
Pourquoi Double.NaN == Double.NaN renvoie false?
J'étudiais juste les questions OCPJP et j'ai trouvé ce code étrange: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Quand j'ai exécuté le code, j'ai obtenu: false true Comment est le résultat falselorsque nous comparons deux choses qui se ressemblent? Que veut NaNdire?
155 java  floating-point  nan  scjp  ocpjp 
7
Précision 'float' vs 'double'
Le code float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); vous donnera la sortie x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 où sur la troisième ligne de sortie 741012573242est garbage et sur la quatrième ligne 116est garbage. Les doubles ont-ils toujours 16 chiffres significatifs alors …
155 c  floating-point 
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.