Questions marquées «floating-point»

Une méthode de représentation des nombres par un nombre fixe de chiffres significatifs et l'exposant d'un certain nombre de base. Ils sont caractérisés sous la forme . En règle générale, les nombres sont représentés par rapport à base = 2 (binaire). ${(significant digits)}*base^{exponent}$

Petits résultats imprévisibles dans les exécutions d'un modèle déterministe

J'ai un modèle non négligeable (~ 5000 lignes) écrit en C. C'est un programme en série, sans génération de nombre aléatoire nulle part. Il utilise la bibliothèque FFTW pour les fonctions utilisant FFT - Je ne connais pas les détails de l'implémentation FFTW, mais je suppose que les fonctions y …

10 floating-point precision computer-arithmetic

Ordre des opérations, algorithmes numériques

J'ai lu ça (1) Les opérations mal conditionnées doivent être effectuées avant celles bien conditionnées. Par exemple, on devrait calculer comme puisque la soustraction est mal conditionnée tandis que la multiplication ne l'est pas.xz−yzxz−yzxz-yz(x−y)z(x−y)z(x-y)z Cependant, une analyse d'erreur de premier ordre des deux algorithmes révèle qu'ils ne diffèrent que par …

10 stability floating-point

Pertinence des calculs en virgule fixe et en précision arbitraire

Je vois très peu de bibliothèques / packages informatiques à virgule non flottante. Étant donné les diverses inexactitudes de la représentation en virgule flottante, la question se pose de savoir pourquoi il n'y a pas au moins certains domaines où cette précision accrue pourrait valoir la complexité de travailler avec …

10 floating-point numerics

Comparaison relative des nombres à virgule flottante

J'ai une fonction numérique f(x, y)renvoyant un double nombre à virgule flottante qui implémente une formule et je veux vérifier qu'elle est correcte par rapport aux expressions analytiques pour toutes les combinaisons de paramètres xet yque je suis intéressé. Quelle est la bonne façon de comparer les données calculées et …

10 floating-point

Comment définir des valeurs de double précision dans Fortran

Récemment, j'ai rencontré un problème bizarre avec FORTRAN95. J'ai initialisé les variables X et Y comme suit: X=1.0 Y=0.1 Plus tard, je les additionne et j'imprime le résultat: 1.10000000149012 Après examen des variables, il semble que 0,1 ne soit pas représenté en double précision avec une précision totale. y-a-t-il un …

10 fortran floating-point

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.

Licensed under cc by-sa 3.0 with attribution required.