Questions marquées «floating-point»

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que les entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 équivaut à 0,300000001?) Ou des erreurs de conversion décimales, veuillez lire la page "info" liée ci-dessous avant de poster.



12
Pourquoi GCC n'optimise-t-il pas a * a * a * a * a * a à (a * a * a) * (a * a * a)?
Je fais une optimisation numérique sur une application scientifique. Une chose que j'ai remarquée est que GCC optimisera l'appel pow(a,2)en le compilant a*a, mais l'appel pow(a,6)n'est pas optimisé et appellera en fait la fonction de bibliothèque pow, ce qui ralentit considérablement les performances. (En revanche, Intel C ++ Compiler , …






7
Existe-t-il un type d'entrée flottante en HTML5?
Selon html5.org , l'attribut de valeur du type d'entrée "nombre", s'il est spécifié et non vide, doit avoir une valeur qui est un nombre à virgule flottante valide. " Pourtant, il s'agit simplement (dans la dernière version de Chrome, de toute façon), d'un contrôle "de mise à jour" avec des …




14
Convertir décimal en double
Je veux utiliser a Track-Barpour changer Forml'opacité de a. Voici mon code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Lorsque je crée l'application, cela donne l'erreur suivante: Impossible de convertir implicitement le type decimalendouble J'ai essayé d'utiliser transet doublepuis Controlça ne marche pas. Ce code a bien fonctionné …



En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.