La programmation floating-point

21

Conserver la précision avec double en Java

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Le code ci-dessus s'imprime: 11.399999999999 Comment pourrais-je obtenir ceci pour simplement imprimer (ou pouvoir l'utiliser comme) 11.4?

149 java floating-point double precision

12

Comment supprimer la notation scientifique lors de l'impression de valeurs flottantes?

Voici mon code: x = 1.0 y = 100000.0 print x/y Mon quotient s'affiche sous la forme 1.00000e-05. Existe-t-il un moyen de supprimer la notation scientifique et de la faire apparaître comme 0.00001? Je vais utiliser le résultat sous forme de chaîne.

147 python floating-point

2

Que fait réellement le ffast-math de gcc?

Je comprends que le --ffast-mathdrapeau de gcc peut considérablement augmenter la vitesse des opérations flottantes et va en dehors des normes IEEE, mais je n'arrive pas à trouver des informations sur ce qui se passe réellement quand il est activé. Quelqu'un peut-il expliquer certains détails et peut-être donner un exemple …

144 performance math gcc floating-point fast-math

7

Convertir un nombre à virgule flottante avec une certaine précision, puis copier en chaîne

J'ai un nombre à virgule flottante, disons 135.12345678910. Je veux concaténer cette valeur en une chaîne, mais je veux seulement 135.123456789. Avec l'impression, je peux facilement le faire en faisant quelque chose comme: print "%.9f" % numvar d' numvarêtre mon numéro d'origine. Y a-t-il un moyen facile de faire ceci?

144 python string floating-point

11

Afficher un flottant avec deux décimales en Python

J'ai une fonction prenant des arguments flottants (généralement des entiers ou des décimales avec un chiffre significatif), et je dois sortir les valeurs dans une chaîne avec deux décimales (5 -> 5,00, 5,5 -> 5,50, etc.). Comment puis-je faire cela en Python?

136 python string programming-languages floating-point

12

Est-il possible d'obtenir 0 en soustrayant deux nombres à virgule flottante inégaux?

Est-il possible d'obtenir une division par 0 (ou l'infini) dans l'exemple suivant? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Dans des cas normaux, ce ne sera évidemment pas le cas. Mais que …

131 floating-point double floating-accuracy ieee-754

12

Pourquoi C n'a-t-il pas de flotteurs non signés?

Je sais, la question semble étrange. Les programmeurs pensent parfois trop. Veuillez lire la suite ... En CI, utilisez signedet unsignedentiers beaucoup. J'aime le fait que le compilateur me prévienne si je fais des choses comme assigner un entier signé à une variable non signée. Je reçois des avertissements si …

131 c types floating-point format unsigned

7

Expression C # Float: comportement étrange lors de la conversion du résultat float en int

J'ai le code simple suivant: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1et speed2devrait avoir la même valeur, mais en fait, j'ai: speed1 = 61 speed2 = 62 Je sais que je devrais probablement utiliser Math.Round au lieu de cast, mais …

128 c# casting floating-point int expression

10

Comment gérer les flottants et les séparateurs décimaux avec un numéro de type d'entrée HTML5

Je construis une application Web qui est principalement destinée aux navigateurs mobiles. J'utilise des champs de saisie avec le type de nombre, donc (la plupart) les navigateurs mobiles n'appellent que le clavier numérique pour une meilleure expérience utilisateur. Cette application Web est principalement utilisée dans les régions où le séparateur …

128 javascript jquery mobile floating-point html-input

12

Arrondir un nombre à virgule flottante à l'entier le plus proche?

Comme le titre l'indique, je veux prendre un nombre à virgule flottante et l'arrondir à l'entier le plus proche. Cependant, si ce n'est pas un tout, je veux TOUJOURS arrondir la variable, quelle que soit sa proximité avec le prochain entier supérieur. Y a-t-il un moyen de faire cela?

128 python floating-point integer rounding

2

Pourquoi Clang optimise-t-il x * 1.0 mais PAS x + 0.0?

Pourquoi Clang optimise-t-il la boucle dans ce code #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] …

125 c++ c optimization floating-point clang

27

Comment obtenir des nombres après la virgule décimale?

Comment obtenir les nombres après une virgule décimale? Par exemple, si je l'ai 5.55, comment puis-je l'obtenir .55?

124 python floating-point decimal

19

round () ne semble pas arrondir correctement

La documentation de la fonction round () indique que vous lui transmettez un nombre et que les positions après la virgule sont arrondies. Ainsi, il devrait faire ceci: n = 5.59 round(n, 1) # 5.6 Mais, en réalité, la bonne vieille bizarrerie en virgule flottante s'infiltre et vous obtenez: 5.5999999999999996 …

123 python floating-point rounding

11

Pourquoi ne puis-je pas utiliser la valeur flottante comme paramètre de modèle?

Lorsque j'essaie de l'utiliser floatcomme paramètre de modèle, le compilateur pleure ce code, alors qu'il intfonctionne correctement. Est-ce parce que je ne peux pas utiliser floatcomme paramètre de modèle? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; …

120 c++ templates generics floating-point

8

Chaîne PHP à Float

Je ne connais pas du tout PHP et j'avais une petite question. J'ai 2 variables pricePerUnitet InvoicedUnits. Voici le code qui définit ces valeurs: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Si je produis ceci, j'obtiens les valeurs correctes. Disons les 5000unités facturées et 1.00pour le prix. Maintenant, je …

120 php string casting floating-point

Questions marquées «floating-point»