La programmation floating-point

30

Quel est le moyen le plus efficace pour la comparaison flottante et double?

Quelle serait la façon la plus efficace de comparer deux doubleou deux floatvaleurs? Faire cela n'est pas correct: bool CompareDoubles1 (double A, double B) { return A == B; } Mais quelque chose comme: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) …

524 c++ algorithm optimization floating-point

26

Comment bien formater les nombres flottants en chaîne sans décimal inutile 0?

Un double 64 bits peut représenter un entier +/- 2 53 exactement Compte tenu de ce fait, je choisis d'utiliser un type double comme type unique pour tous mes types, car mon plus grand entier n'est pas signé 32 bits. Mais maintenant, je dois imprimer ces pseudo entiers, mais le …

496 java string floating-point format double

24

Comment arrondissez-vous un nombre en Python?

Ce problème me tue. Comment arrondit-on un nombre UP en Python? J'ai essayé d'arrondir (nombre) mais il arrondit le nombre. Exemple: round(2.3) = 2.0 and not 3, what I would like J'ai essayé int (nombre + 0,5) mais il arrondit à nouveau le nombre! Exemple: int(2.3 + .5) = 2 …

487 python floating-point integer rounding python-2.x

5

Spécificateur de format correct pour double dans printf

À quoi sert le spécificateur de format correct doubledans printf? Est-ce %fou est-ce %lf? Je le crois %f, mais je n'en suis pas sûr. Exemple de code #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

13

Comment formater un float en javascript?

En JavaScript, lors de la conversion d'un flottant en une chaîne, comment puis-je obtenir seulement 2 chiffres après la virgule décimale? Par exemple, 0,34 au lieu de 0,3445434.

427 javascript floating-point

12

Quelle est la différence entre float et double?

J'ai lu la différence entre la double précision et la simple précision. Cependant, dans la plupart des cas, floatet doublesemblent interchangeables, c'est-à-dire que l'utilisation de l'un ou de l'autre ne semble pas affecter les résultats. Est-ce vraiment le cas? Quand les flotteurs et les doubles sont-ils interchangeables? Quelles sont les …

420 c++ c floating-point precision

4

Comment obtenir un nombre aléatoire entre une plage flottante?

randrange(start, stop)prend uniquement des arguments entiers. Alors, comment pourrais-je obtenir un nombre aléatoire entre deux valeurs flottantes?

415 python random floating-point

15

Comment analyser un flottant avec deux décimales en javascript?

J'ai le code suivant. Je voudrais qu'il soit tel que si price_result est égal à un entier, disons 10, alors je voudrais ajouter deux décimales. Donc 10 serait 10,00. Ou si elle est égale à 10,6 serait 10,60. Je ne sais pas comment faire cela. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

412 javascript floating-point

11

Est-il dangereux de comparer des valeurs à virgule flottante?

Je connais les UIKitutilisations en CGFloatraison du système de coordonnées indépendant de la résolution. Mais chaque fois que je veux vérifier si par exemple frame.origin.xest 0il me rend malade: if (theView.frame.origin.x == 0) { // do important operation } N'est pas CGFloatvulnérable aux faux positifs lorsque l'on compare avec ==, …

391 objective-c ios c floating-point floating-accuracy

6

Comment convertir float en int avec Java

J'ai utilisé la ligne suivante pour convertir float en int, mais ce n'est pas aussi précis que je le souhaiterais: float a=8.61f; int b; b=(int)a; Le résultat est: 8(Ça devrait être 9) Quand a = -7.65f, le résultat est: -7(ça devrait être -8) Quelle est la meilleure façon de procéder?

342 java floating-point int

15

Quelle est la meilleure façon de comparer les flottants pour une quasi-égalité en Python?

Il est bien connu que la comparaison des flottants pour l'égalité est un peu difficile en raison de problèmes d'arrondi et de précision. Par exemple: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Quelle est la méthode recommandée pour gérer cela en Python? Il y a sûrement une fonction de bibliothèque standard pour cela quelque part?

333 python floating-point

11

Comment imprimer une valeur double en toute précision avec cout?

J'ai donc obtenu la réponse à ma dernière question (je ne sais pas pourquoi je n'y ai pas pensé). J'imprimais une doubleutilisation coutqui a été arrondie quand je ne m'y attendais pas. Comment puis-je faire coutimprimer une doubleutilisation en toute précision?

332 c++ floating-point precision iostream cout

10

JavaScript affichant un flottant à 2 décimales

Je voulais afficher un nombre à 2 décimales. Je pensais pouvoir utiliser toPrecision(2)en JavaScript. Cependant, si le nombre est 0.05, je comprends 0.0500. Je préfère que ça reste le même. Voir sur JSbin . Quelle est la meilleure façon de procéder? Je peux penser à coder quelques solutions, mais j'imagine …

316 javascript floating-point precision

2

Que représente la constante 0,0039215689?

Je continue de voir cette constante apparaître dans divers fichiers d'en-tête graphiques 0.0039215689 Cela semble avoir quelque chose à voir avec la couleur peut-être? Voici le premier hit sur Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = …

310 c floating-point constants magic-numbers

6

Double vs BigDecimal?

Je dois calculer quelques variables à virgule flottante et mon collègue me suggère de les utiliser à la BigDecimalplace doublecar ce sera plus précis. Mais je veux savoir de quoi il s'agit et comment en tirer le meilleur parti BigDecimal?

303 java floating-point double bigdecimal

Questions marquées «floating-point»