La programmation floating-point

7

Y a-t-il une différence entre ceux-ci: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Si je comprends bien, les deux cas ont le même résultat. Y a-t-il une différence dans le code compilé?

120 c++ c floating-point

5

La racine carrée inverse rapide inhabituelle de John Carmack (Quake III)

John Carmack a une fonction spéciale dans le code source de Quake III qui calcule la racine carrée inverse d'un float, 4x plus rapide que normal (float)(1.0/sqrt(x)), y compris une 0x5f3759dfconstante étrange . Voir le code ci-dessous. Quelqu'un peut-il expliquer ligne par ligne ce qui se passe exactement ici et …

112 algorithm floating-point square-root

29

Tronquer les flotteurs en Python

Je veux supprimer des chiffres d'un flottant pour avoir un nombre fixe de chiffres après le point, comme: 1.923328437452 -> 1.923 J'ai besoin de sortir sous forme de chaîne vers une autre fonction, pas d'imprimer. Je veux aussi ignorer les chiffres perdus, pas les arrondir.

110 python floating-point

7

Conversion d'une chaîne en flottant en C #

Je convertis une chaîne comme "41.00027357629127", et j'utilise; Convert.ToSingle("41.00027357629127"); ou float.Parse("41.00027357629127"); Ces méthodes renvoient 4.10002732E + 15 . Quand je passe au flottant, je veux "41.00027357629127". Cette chaîne doit être la même ...

108 c# .net string floating-point type-conversion

6

Pourquoi le scalaire SSE sqrt (x) est-il plus lent que rsqrt (x) * x?

J'ai profilé certaines de nos mathématiques de base sur un Intel Core Duo, et en examinant diverses approches de la racine carrée, j'ai remarqué quelque chose d'étrange: en utilisant les opérations scalaires SSE, il est plus rapide de prendre une racine carrée réciproque et de la multiplier. pour obtenir le …

106 performance assembly floating-point x86 sse

11

Dans quel ordre les flotteurs doivent-ils être ajoutés pour obtenir le résultat le plus précis?

C'est une question qui m'a été posée lors de mon récent entretien et que je veux savoir (je ne me souviens pas vraiment de la théorie de l'analyse numérique, alors aidez-moi :) Si nous avons une fonction, qui accumule des nombres à virgule flottante: std::accumulate(v.begin(), v.end(), 0.0); vest un std::vector<float>, …

105 c++ floating-point precision

8

Spécificateur de largeur Printf pour maintenir la précision de la valeur à virgule flottante

Existe-t-il un printfspécificateur de largeur qui peut être appliqué à un spécificateur à virgule flottante qui formaterait automatiquement la sortie avec le nombre nécessaire de chiffres significatifs sorte que lors du balayage de la chaîne, la valeur à virgule flottante d'origine soit acquise? Par exemple, supposons que j'imprime a floatavec …

103 c floating-point printf c99 floating-point-precision

10

«F» après le nombre

Qu'indique faprès les chiffres? Est-ce de C ou Objective-C? Y a-t-il une différence à ne pas ajouter cela à un nombre constant? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Pouvez-vous expliquer pourquoi je n'écrirais pas simplement: CGRect frame = CGRectMake(0, 0, 320, 50);

102 objective-c c floating-point

4

Qu'est-ce que float en Java?

J'ai écrit ce code: float b = 3.6; et j'obtiens ceci: Erreur: problème de compilation non résolu: Incompatibilité de type: impossible de convertir de double en float Pourquoi? Quelle est la définition de float?

102 java floating-point

3

Est-il possible d'écrire la fonction rapide InvSqrt () de Quake dans Rust?

C'est juste pour satisfaire ma propre curiosité. Y a-t-il une implémentation de ceci: float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } à Rust? S'il existe, affichez le code. J'ai …

101 rust floating-point sqrt type-punning

19

Convertir une chaîne en flottant dans Swift

J'essaie de convertir des nombres tirés d'un UITextField, qui je suppose, sont en fait des chaînes, et de les convertir en Float, afin que je puisse les multiplier. J'ai deux UITextfields qui sont déclarés comme suit: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Lorsque l'utilisateur appuie sur un UIButton, …

101 string floating-point swift string-parsing

11

Calculs en virgule flottante vs nombres entiers sur du matériel moderne

Je fais un travail critique de performance en C ++, et nous utilisons actuellement des calculs entiers pour les problèmes qui sont intrinsèquement en virgule flottante parce que "c'est plus rapide". Cela cause beaucoup de problèmes ennuyeux et ajoute beaucoup de code ennuyeux. Maintenant, je me souviens avoir lu comment …

100 c++ x86 floating-point x86-64

9

Est-il sûr de vérifier les valeurs à virgule flottante pour l'égalité à 0?

Je sais que vous ne pouvez pas compter sur l'égalité entre les valeurs de type double ou décimal normalement, mais je me demande si 0 est un cas particulier. Bien que je puisse comprendre les imprécisions entre 0,0000000000000001 et 0,0000000000000002, 0 lui-même semble assez difficile à gâcher car ce n'est …

100 c# .net floating-point precision zero

14

Formater les flottants avec le module json standard

J'utilise le module json standard en python 2.6 pour sérialiser une liste de flotteurs. Cependant, j'obtiens des résultats comme celui-ci: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Je veux que les flotteurs soient formatés avec seulement deux chiffres décimaux. La sortie devrait ressembler à ceci: >>> json.dumps([23.67, …

100 python json formatting floating-point

5

Quelle est la différence entre les nombres à virgule flottante durs et souples?

Lorsque je compile du code C avec ma chaîne d'outils croisée, l'éditeur de liens imprime des pages d'avertissements indiquant que mon exécutable utilise des flottants fixes, mais ma libc utilise des flottants souples. Quelle est la différence?

98 c linux floating-point arm libc

Questions marquées «floating-point»