La programmation floating-point

30

Les mathématiques en virgule flottante sont-elles cassées?

На этот вопрос есть ответы на Stack Overflow на рdedом : Вычисления на числах с плавающей точкой не работают Considérez le code suivant: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Pourquoi ces inexactitudes se produisent-elles?

2983 math language-agnostic floating-point floating-accuracy

27

Comment analyser une chaîne en un flottant ou un int?

En Python, comment puis - je analyser une chaîne numérique comme "545.2222"à sa valeur flottante correspondante, 545.2222? Ou analyser la chaîne "31"en un entier 31,? Je veux juste savoir comment analyser un flotteur str en un floatet (séparément) un int str en un int.

2253 python parsing floating-point type-conversion integer

12

Pourquoi GCC n'optimise-t-il pas a * a * a * a * a * a à (a * a * a) * (a * a * a)?

Je fais une optimisation numérique sur une application scientifique. Une chose que j'ai remarquée est que GCC optimisera l'appel pow(a,2)en le compilant a*a, mais l'appel pow(a,6)n'est pas optimisé et appellera en fait la fonction de bibliothèque pow, ce qui ralentit considérablement les performances. (En revanche, Intel C ++ Compiler , …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Différence entre décimal, float et double dans .NET?

Quelle est la différence entre decimal, floatet doubledans .NET? Quand quelqu'un en utiliserait-il un?

2086 .net floating-point double decimal

25

Limiter les flottants à deux décimales

Je veux aêtre arrondi à 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 La roundfonction ne fonctionne pas comme je m'y attendais.

1692 python floating-point rounding precision

30

Comment vérifier si une chaîne est un nombre (float)?

Quelle est la meilleure façon de vérifier si une chaîne peut être représentée sous forme de nombre en Python? La fonction que j'ai actuellement en ce moment est: def is_number(s): try: float(s) return True except ValueError: return False Ce qui, non seulement est laid et lent, semble maladroit. Cependant, je …

1610 python casting floating-point type-conversion

5

Pourquoi le passage de 0,1f à 0 ralentit-il 10 fois les performances?

Pourquoi ce morceau de code, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int …

1528 c++ performance visual-studio-2010 compilation floating-point

15

Pourquoi ne pas utiliser Double ou Float pour représenter la devise?

On m'a toujours dit de ne jamais représenter l'argent avec doubleou les floattypes, et cette fois je vous pose la question: pourquoi? Je suis sûr qu'il y a une très bonne raison, je ne sais tout simplement pas ce que c'est.

939 floating-point currency

7

Existe-t-il un type d'entrée flottante en HTML5?

Selon html5.org , l'attribut de valeur du type d'entrée "nombre", s'il est spécifié et non vide, doit avoir une valeur qui est un nombre à virgule flottante valide. " Pourtant, il s'agit simplement (dans la dernière version de Chrome, de toute façon), d'un contrôle "de mise à jour" avec des …

819 html input floating-point

30

Format du nombre pour toujours afficher 2 décimales

Je souhaite formater mes chiffres pour toujours afficher 2 décimales, en arrondissant le cas échéant. Exemples: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 J'utilise ceci: parseFloat(num).toFixed(2); Mais il s'affiche 1comme 1plutôt que 1.00.

783 javascript floating-point number-formatting

30

Comment utiliser une valeur de pas de plage décimale ()?

Existe-t-il un moyen de passer de 0 à 1 de 0,1? Je pensais que je pouvais le faire comme suit, mais cela a échoué: for i in range(0, 1, 0.1): print i Au lieu de cela, il dit que l'argument step ne peut pas être nul, ce à quoi je …

744 python floating-point range

11

Comment forcer la division à virgule flottante? La division continue d'arrondir à 0?

J'ai deux valeurs entières aet b, mais j'ai besoin de leur rapport en virgule flottante. Je sais cela a < bet je veux calculer a / b, donc si j'utilise la division entière, j'obtiendrai toujours 0 avec un reste de a. Comment puis-je forcer cà être un nombre à virgule …

721 python floating-point integer division python-2.x

14

Convertir décimal en double

Je veux utiliser a Track-Barpour changer Forml'opacité de a. Voici mon code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Lorsque je crée l'application, cela donne l'erreur suivante: Impossible de convertir implicitement le type decimalendouble J'ai essayé d'utiliser transet doublepuis Controlça ne marche pas. Ce code a bien fonctionné …

672 c# floating-point type-conversion double decimal

30

Comment gérer la précision des nombres à virgule flottante en JavaScript?

J'ai le script de test factice suivant: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Exécuter l'extrait de codeMasquer les résultatsDévelopper l'extrait Cela imprimera le résultat 0.020000000000000004alors qu'il devrait simplement imprimer 0.02(si vous utilisez votre calculatrice). Pour autant que je sache, cela est dû à des …

620 javascript floating-point

5

Pourquoi Math.round (0.4999999999999999994) renvoie 1?

Dans le programme suivant, vous pouvez voir que chaque valeur légèrement inférieure à .5est arrondie à l'exception de 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); …

567 java floating-point double rounding

Questions marquées «floating-point»