Questions marquées «floating-point»

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que les entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 équivaut à 0,300000001?) Ou des erreurs de conversion décimales, veuillez lire la page "info" liée ci-dessous avant de poster.

2
Comment effectuer une division dans Go
J'essaye d'effectuer une division simple en Go. fmt.Println(3/10) Cela imprime 0 au lieu de 0,3. C'est un peu bizarre. Quelqu'un pourrait-il s'il vous plaît partager quelle est la raison derrière cela? Je souhaite effectuer différentes opérations arithmétiques dans Go. Merci
3
Le double cast en int non signé sur Win32 est tronqué à 2 147 483 648
Compiler le code suivant: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Sorties (MSVC …
8
JavaScript: arrondir à un certain nombre de décimales, mais supprimer les zéros supplémentaires
Voici le scénario: je reçois .9999999999999999quand je devrais être 1.0. Je peux me permettre de perdre une décimale de précision, donc j'utilise .toFixed(15), quel genre de travail. L'arrondi fonctionne, mais le problème est que je suis donné 1.000000000000000. Existe-t-il un moyen d'arrondir à un certain nombre de décimales, mais de …
7
Quand utiliser float vs decimal
Je crée cette API, et la base de données stockera des valeurs qui représentent l'un des éléments suivants: pourcentage moyenne taux Honnêtement, je n'ai aucune idée de la façon de représenter quelque chose dont la plage est comprise entre 0 et 100% en nombre. Devrait-ce être 0,00 - 1,00 0,00 …
1
Comportement étrange de (^) à Haskell
Pourquoi GHCi donne-t-il une réponse incorrecte ci-dessous? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 Python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 MISE À JOUR J'implémenterais la fonction (^) de Haskell comme suit. powerXY :: Double -> Int -> Double powerXY x 0 = 1 powerXY x y | y < 0 = …
5
Somme stable efficace de nombres ordonnés
J'ai une assez longue liste de nombres positifs à virgule flottante ( std::vector<float>, taille ~ 1000). Les nombres sont triés par ordre décroissant. Si je les additionne suite à la commande: for (auto v : vec) { sum += v; } Je suppose que je peux avoir un problème de …
2
Syntaxe valide de l'appel d'un pseudo-destructeur pour une constante flottante
Considérez le programme de démonstration suivant. #include <iostream> int main() { typedef float T; 0.f.T::~T(); } Ce programme est compilé par Microsoft Visual Studio Community 2019. Mais clanget gccémettre une erreur comme celle-ci prog.cc:7:5: error: unable to find numeric literal operator 'operator""f.T' 7 | 0.f.T::~T(); | ^~~~~ Si pour écrire …
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.