Questions marquées «numeric-precision»

5
Solutions aux erreurs d'arrondi à virgule flottante
En créant une application qui traite de nombreux calculs mathématiques, j'ai rencontré le problème que certains nombres provoquent des erreurs d'arrondi. Bien que je comprenne que la virgule flottante n'est pas exacte , le problème est de savoir comment gérer les nombres exacts pour m'assurer que lorsque les calculs sont …
4
Comment identifier les calculs en virgule flottante instables?
En numérique, il est très important de pouvoir identifier des schémas instables et d'améliorer leur stabilité. Comment identifier les calculs en virgule flottante instables? Je travaille sur une simulation très complexe où de nombreux schémas numériques fonctionnent ensemble et je recherche une méthodologie pour identifier ses points faibles. Je travaille …
1
Précision implicite des fonctions à virgule flottante
Lors de l'examen de l' implémentation d'une fonction par un autre programmeur pour calculer le CDF de distribution normale , j'ai suggéré de remplacer l'intégralité de l'implémentation par les fonctions intégrées de Python ou d'utiliser SciPy, une bibliothèque scientifique commune. Un autre programmeur a souligné que ni math.erfc()ne scipy.stats.norm.cdf()fournit aucune …
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.