La programmation floating-accuracy

30

Les mathématiques en virgule flottante sont-elles cassées?

На этот вопрос есть ответы на Stack Overflow на рdedом : Вычисления на числах с плавающей точкой не работают Considérez le code suivant: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Pourquoi ces inexactitudes se produisent-elles?

2983 math language-agnostic floating-point floating-accuracy

11

Est-il dangereux de comparer des valeurs à virgule flottante?

Je connais les UIKitutilisations en CGFloatraison du système de coordonnées indépendant de la résolution. Mais chaque fois que je veux vérifier si par exemple frame.origin.xest 0il me rend malade: if (theView.frame.origin.x == 0) { // do important operation } N'est pas CGFloatvulnérable aux faux positifs lorsque l'on compare avec ==, …

391 objective-c ios c floating-point floating-accuracy

6

Pourquoi ces chiffres ne sont-ils pas égaux?

Le code suivant est évidemment faux. Quel est le problème? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

21

Quel est le problème avec l'utilisation de == pour comparer des flottants en Java?

Selon cette page java.sun == est l'opérateur de comparaison d'égalité pour les nombres à virgule flottante en Java. Cependant, lorsque je tape ce code: if(sectionID == currentSectionID) dans mon éditeur et exécuter une analyse statique, j'obtiens: "JAVA0078 Valeurs à virgule flottante comparées à ==" Quel est le problème avec l'utilisation …

177 java equality floating-accuracy

4

Pourquoi la valeur en virgule flottante de 4 * 0,1 est-elle belle dans Python 3 mais pas 3 * 0,1?

Je sais que la plupart des décimales n'ont pas de représentation en virgule flottante exacte (les mathématiques en virgule flottante sont-elles cassées? ). Mais je ne vois pas pourquoi 4*0.1est bien imprimé comme 0.4, mais 3*0.1ne l'est pas, alors que les deux valeurs ont en fait des représentations décimales laides: …

158 python floating-point rounding floating-accuracy ieee-754

12

Est-il possible d'obtenir 0 en soustrayant deux nombres à virgule flottante inégaux?

Est-il possible d'obtenir une division par 0 (ou l'infini) dans l'exemple suivant? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Dans des cas normaux, ce ne sera évidemment pas le cas. Mais que …

131 floating-point double floating-accuracy ieee-754

27

Tronquer (pas arrondir) les nombres décimaux en javascript

J'essaye de tronquer les nombres décimaux en décimales. Quelque chose comme ça: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)fait à peu près ce qu'il faut mais arrondit la valeur. Je n'ai pas besoin d'arrondir la valeur. J'espère que cela est possible en javascript.

93 javascript floating-point floating-accuracy

4

Quel est le double le plus proche de 1.0, ce n'est pas 1.0?

Existe-t-il un moyen d'obtenir par programme le double qui est le plus proche de 1.0, mais qui n'est pas réellement 1.0? Une façon piratée de faire cela serait de mémoriser le double en un entier de même taille, puis d'en soustraire un. La façon dont les formats à virgule flottante …

88 c++ floating-point floating-accuracy

Questions marquées «floating-accuracy»