Questions marquées «floating-point»

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que les entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 équivaut à 0,300000001?) Ou des erreurs de conversion décimales, veuillez lire la page "info" liée ci-dessous avant de poster.

Quelqu'un peut-il expliquer ce comportement étrange avec des flotteurs signés en C #?

Voici l'exemple avec des commentaires: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct D2 …

247 c# .net floating-point

Ajouter une valeur en virgule flottante aux ressources / valeurs Android

J'essaie d'ajouter un peu d'espace entre les lignes à mes TextViews en utilisant android:lineSpacingMultiplier la documentation : Espacement supplémentaire entre les lignes de texte, comme multiplicateur. Doit être une valeur à virgule flottante, telle que "1,2". Comme j'utilise cela dans plusieurs TextViews différentes, je voudrais ajouter une dimension / valeur …

243 android resources floating-point

Comment utiliser la division à virgule flottante dans bash?

J'essaie de diviser deux largeurs d'image dans un script Bash, mais bash me donne 0le résultat: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) J'ai étudié le guide Bash et je sais que je devrais l'utiliser bc, dans tous les exemples sur Internet qu'ils utilisent bc. Dans echoJ'ai essayé de mettre la même chose dans mon SCALEmais …

242 bash floating-point arithmetic-expressions

Python JSON sérialiser un objet Decimal

J'ai un Decimal('3.9')dans le cadre d'un objet, et souhaite encoder cela en une chaîne JSON qui devrait ressembler à{'x': 3.9} . Je ne me soucie pas de la précision du côté client, donc un flotteur est très bien. Existe-t-il un bon moyen de sérialiser cela? JSONDecoder n'accepte pas les objets …

242 python json floating-point decimal

Pourquoi le hachage de Python à l'infini a-t-il les chiffres de π?

Le hachage de l'infini en Python a des chiffres correspondant à pi : >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 Est-ce juste une coïncidence ou est-ce intentionnel?

241 python math hash floating-point pi

round () pour float en C ++

J'ai besoin d'une simple fonction d'arrondi à virgule flottante, donc: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Je peux trouver ceil()et floor()dans le math.h - mais pas round(). Est-il présent dans la bibliothèque C ++ standard sous un autre nom, ou est-il manquant ??

232 c++ floating-point rounding

Convertir des flotteurs en pouces dans Pandas?

J'ai travaillé avec des données importées d'un CSV. Les pandas ont changé certaines colonnes pour qu'elles flottent, alors maintenant les nombres dans ces colonnes s'affichent en virgule flottante! Cependant, j'ai besoin qu'ils soient affichés sous forme d'entiers ou sans virgule. Existe-t-il un moyen de les convertir en entiers ou de …

230 python pandas floating-point integer dataset

le plus grand entier qui peut être stocké dans un double

Quel est le plus grand entier "sans flottement" pouvant être stocké dans un type double IEEE 754 sans perte de précision?

225 types floating-point double ieee-754

Formater le flottant à n décimales

J'ai besoin de formater un flotteur à "n" décimales. essayait de BigDecimal, mais la valeur de retour n'est pas correcte ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here …

220 java android floating-point numbers format

Flottant et double type de données en Java

Le type de données flottant est un point flottant IEEE 754 32 bits simple précision et le type de données double est un point flottant IEEE 754 64 bits double précision. Qu'est-ce que ça veut dire? Et quand dois-je utiliser float au lieu de double ou vice-versa?

220 java floating-point double ieee-754

Comment restreindre une valeur flottante à seulement deux endroits après la virgule décimale en C?

Comment puis-je arrondir une valeur flottante (telle que 37,777779) à deux décimales (37,78) en C?

214 c floating-point decimal

Formatage d'un flottant à 2 décimales

Je construis actuellement un module de vente pour un site Web de clients. Jusqu'à présent, j'ai le prix de vente à calculer parfaitement, mais là où je suis coincé, c'est le formatage de la sortie à 2 décimales. J'appelle actuellement cela dans une variable afin que je puisse lier les …

210 c# variables floating-point decimal

Comment vérifier si une valeur flottante est un nombre entier

J'essaie de trouver la plus grande racine cubique qui soit un nombre entier, c'est-à-dire moins de 12 000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Je ne sais pas comment vérifier s'il …

203 python floating-point

Pourquoi les nombres à virgule flottante sont-ils inexacts?

Pourquoi certains nombres perdent leur précision lorsqu'ils sont stockés sous forme de nombres à virgule flottante? Par exemple, le nombre décimal 9.2peut être exprimé exactement comme un rapport de deux nombres décimaux ( 92/10), qui peuvent tous deux être exprimés exactement en binaire ( 0b1011100/0b1010). Cependant, le même rapport stocké …

198 floating-point language-agnostic precision

Utilisation du OU au niveau du bit de 0 pour plancher un nombre

Un de mes collègues est tombé sur une méthode pour plancher les nombres flottants en utilisant un bit ou: var a = 13.6 | 0; //a == 13 Nous en parlions et nous nous posions quelques questions. Comment ça marche? Notre théorie était que l'utilisation d'un tel opérateur convertit le …

193 javascript floating-point bit-manipulation

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.

Licensed under cc by-sa 3.0 with attribution required.