La programmation floating-point

7

Avertissement C ++: division du double par zéro

Cas 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Il compile sans aucun avertissement et imprime inf. OK, C ++ peut gérer la division par zéro, ( voir en direct ). Mais, Cas 2: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0)<<std::endl; } Le …

98 c++ gcc floating-point divide-by-zero

10

Convertissez float en double sans perdre de précision

J'ai un flotteur primitif et j'en ai besoin comme double primitif. Le simple fait de lancer le flotteur pour doubler me donne une précision supplémentaire étrange. Par exemple: float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 System.out.println(Double.toString((double)temp)); // Prints 14009.349609375 Cependant, si au lieu de lancer un cast, je produis …

97 java floating-point double

2

Quelle est la différence entre NaN silencieux et NaN de signalisation?

J'ai lu sur la virgule flottante et je comprends que NaN pourrait résulter des opérations. Mais je ne peux pas comprendre exactement ce que sont ces concepts. Quelle est la différence entre eux? Lequel peut être produit lors de la programmation C ++? En tant que programmeur, pourrais-je écrire un …

97 floating-point nan ieee-754

8

Les compilateurs JIT de JVM génèrent-ils du code qui utilise des instructions en virgule flottante vectorisées?

Disons que le goulot d'étranglement de mon programme Java est vraiment quelques boucles serrées pour calculer un tas de produits scalaires vectoriels. Oui j'ai profilé, oui c'est le goulot d'étranglement, oui c'est significatif, oui c'est juste comme ça que l'algorithme est, oui j'ai exécuté Proguard pour optimiser le byte code, …

95 java floating-point jit sse vectorization

6

Combien de nombres doubles y a-t-il entre 0,0 et 1,0?

C'est quelque chose qui me préoccupe depuis des années, mais je n'ai jamais pris le temps de le demander auparavant. De nombreux (pseudo) générateurs de nombres aléatoires génèrent un nombre aléatoire compris entre 0,0 et 1,0. Mathématiquement, il y a des nombres infinis dans cette plage, mais doublec'est un nombre …

94 random floating-point double precision

18

Jolie impression facile de flotteurs en python?

J'ai une liste de flotteurs. Si je le fais simplement print, cela se présente comme ceci: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] Je pourrais utiliser print "%.2f", ce qui nécessiterait une forboucle pour parcourir la liste, mais cela ne fonctionnerait pas pour des structures de données plus complexes. J'aimerais quelque …

93 python printing formatting floating-point

27

Tronquer (pas arrondir) les nombres décimaux en javascript

J'essaye de tronquer les nombres décimaux en décimales. Quelque chose comme ça: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)fait à peu près ce qu'il faut mais arrondit la valeur. Je n'ai pas besoin d'arrondir la valeur. J'espère que cela est possible en javascript.

93 javascript floating-point floating-accuracy

10

Comment puis-je améliorer les performances via une approche de haut niveau lors de l'implémentation d'équations longues en C ++

Je développe des simulations d'ingénierie. Cela implique la mise en œuvre de longues équations telles que cette équation pour calculer la contrainte dans un matériau de type caoutchouc: T = ( mu * ( pow(l1 * pow(l1 * l2 * l3, -0.1e1 / 0.3e1), a) * a * ( pow(l1 …

92 c++ performance optimization floating-point g++

9

diviser un nombre en parties entières et décimales

Existe-t-il une manière pythonique de diviser un nombre comme 1234.5678en deux parties, à (1234, 0.5678)savoir la partie entière et la partie décimale?

91 split floating-point python

2

Cette optimisation en virgule flottante est-elle autorisée?

J'ai essayé de vérifier où floatperd la capacité de représenter exactement de grands nombres entiers. J'ai donc écrit ce petit extrait: int main() { for (int i=0; ; i++) { if ((float)i!=i) { return i; } } } Ce code semble fonctionner avec tous les compilateurs, sauf clang. Clang génère …

90 c++ floating-point clang

4

Types à virgule flottante de taille fixe

Dans les en- têtes stdint.h(C99), boost / cstdint.hpp et cstdint(C ++ 0x), il y a, entre autres, le type int32_t. Existe-t-il des types de virgule flottante de taille fixe similaires? Quelque chose comme float32_t?

90 c++ c boost floating-point

11

Dois-je utiliser double ou float?

Quels sont les avantages et les inconvénients de l'utilisation de l'un au lieu de l'autre en C ++?

89 c++ types floating-point double-precision

4

Quel est le double le plus proche de 1.0, ce n'est pas 1.0?

Existe-t-il un moyen d'obtenir par programme le double qui est le plus proche de 1.0, mais qui n'est pas réellement 1.0? Une façon piratée de faire cela serait de mémoriser le double en un entier de même taille, puis d'en soustraire un. La façon dont les formats à virgule flottante …

88 c++ floating-point floating-accuracy

4

Conversion d'un flottant en chaîne sans l'arrondir

Je crée un programme qui, pour des raisons qui n'ont pas besoin d'être expliquées, nécessite qu'un float soit converti en une chaîne à compter avec len (). Cependant, str (float (x)) entraîne un arrondi de x lorsqu'il est converti en chaîne, ce qui annule le tout. Quelqu'un connaît-il un correctif …

88 python string floating-point rounding

14

Swift - Comment supprimer une décimale d'un flottant si la décimale est égale à 0?

J'affiche une distance avec une décimale, et je voudrais supprimer cette décimale au cas où elle serait égale à 0 (ex: 1200.0Km), comment pourrais-je faire cela en Swift? J'affiche ce numéro comme ceci: let distanceFloat: Float = (currentUser.distance! as NSString).floatValue distanceLabel.text = String(format: "%.1f", distanceFloat) + "Km"

88 ios swift floating-point

Questions marquées «floating-point»