La programmation floating-point

3

Pourquoi NaN - NaN == 0.0 avec le compilateur Intel C ++?

Il est bien connu que les NaN se propagent en arithmétique, mais je n'ai trouvé aucune démonstration, j'ai donc écrit un petit test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = …

300 c++ c floating-point ieee-754 icc

13

Faire un flotteur n'afficher que deux décimales

J'ai la valeur 25.00en a float, mais quand je l'imprime à l'écran c'est le cas 25.0000000. Comment afficher la valeur avec seulement deux décimales?

296 objective-c formatting floating-point

6

Pourquoi la modification de l'ordre de somme renvoie-t-elle un résultat différent?

Pourquoi la modification de l'ordre de somme renvoie-t-elle un résultat différent? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Les deux Java et JavaScript renvoient les mêmes résultats. Je comprends que, en raison de la façon dont les nombres à virgule flottante sont représentés …

294 java javascript floating-point

19

Pourquoi les nombres décimaux ne peuvent-ils pas être représentés exactement en binaire?

Plusieurs questions ont été posées à SO sur la représentation en virgule flottante. Par exemple, le nombre décimal 0,1 n'a pas de représentation binaire exacte, il est donc dangereux d'utiliser l'opérateur == pour le comparer à un autre nombre à virgule flottante. Je comprends les principes de la représentation en …

285 math floating-point

2

Pourquoi certaines comparaisons float <integer sont-elles quatre fois plus lentes que d'autres?

Lorsque vous comparez des flottants à des nombres entiers, certaines paires de valeurs prennent beaucoup plus de temps à être évaluées que d'autres valeurs de même ampleur. Par exemple: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Mais si le flottant ou l'entier est réduit …

284 python performance floating-point cpython python-internals

3

Float vs Decimal dans ActiveRecord

Parfois, les types de données Activerecord me confondent. Euh, souvent. L'une de mes questions éternelles est, pour un cas donné, Dois-je utiliser :decimalou :float? J'ai souvent rencontré ce lien, ActiveRecord:: decimal vs: float? , mais les réponses ne sont pas assez claires pour que je sois certain: J'ai vu de …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Pourquoi ces chiffres ne sont-ils pas égaux?

Le code suivant est évidemment faux. Quel est le problème? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Génération aléatoire de nombres flottants

Comment générer des flottants aléatoires en C ++? Je pensais que je pouvais prendre le rand entier et le diviser par quelque chose, serait-ce suffisant?

271 c++ random floating-point

12

Quelle est la justification de toutes les comparaisons renvoyant des valeurs fausses pour les valeurs NaN IEEE754?

Pourquoi les comparaisons des valeurs de NaN se comportent-elles différemment de toutes les autres valeurs? Autrement dit, toutes les comparaisons avec les opérateurs ==, <=,> =, <,> où une ou les deux valeurs sont NaN renvoie false, contrairement au comportement de toutes les autres valeurs. Je suppose que cela simplifie …

267 floating-point comparison nan ieee-754 iec10967

12

Quand dois-je utiliser double au lieu de décimal?

Je peux nommer trois avantages à utiliser double(ou float) au lieu de decimal: Utilise moins de mémoire. Plus rapide car les opérations mathématiques en virgule flottante sont prises en charge nativement par les processeurs. Peut représenter une plus grande gamme de nombres. Mais ces avantages semblent s'appliquer uniquement aux opérations …

265 c# types floating-point double decimal

9

Quand dois-je utiliser le mot clé "strictfp" en java?

J'ai recherché ce que cela fait, mais est-ce que quelqu'un a un exemple de quand vous utiliseriez le strictfp mot clé en Java? Quelqu'un at-il réellement trouvé une utilisation pour cela? Y aurait-il des effets secondaires à simplement le mettre sur toutes mes opérations en virgule flottante?

258 java floating-point strictfp

9

Quel type de données MySQL doit être utilisé pour Latitude / Longitude avec 8 décimales?

Je travaille avec des données cartographiques, et le Latitude/Longitudeétend à 8 décimales. Par exemple: Latitude 40.71727401 Longitude -74.00898606 J'ai vu dans le document Google qui utilise: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL cependant, leur décimale ne passe qu'à 6. Dois-je utiliser FLOAT(10, …

257 mysql types floating-point

7

Pourquoi la division dans Ruby renvoie-t-elle un entier au lieu d'une valeur décimale?

Par exemple: 9 / 5 #=> 1 mais je m'y attendais 1.8. Comment obtenir le bon résultat décimal (non entier)? Pourquoi revient-il 1du tout?

256 ruby math floating-point division integer-division

8

Comment convertir une chaîne en float en JavaScript?

J'essaie d'analyser deux valeurs d'une grille de données. Les champs sont numériques et lorsqu'ils ont une virgule (ex. 554,20), je ne peux pas obtenir les chiffres après la virgule. J'ai essayé parseIntet parseFloat. Comment puis-je faire ceci?

255 javascript parsing floating-point

22

Obtenez la partie décimale d'un nombre avec JavaScript

J'ai des nombres flottants comme 3.2et 1.6. J'ai besoin de séparer le nombre en partie entière et décimale. Par exemple, une valeur de 3.2serait divisée en deux nombres, c'est 3-à- dire et0.2 Obtenir la partie entière est facile: n = Math.floor(n); Mais j'ai du mal à obtenir la partie décimale. …

248 javascript floating-point numbers decimal rounding

Questions marquées «floating-point»