Questions marquées «precision»

Pour les questions liées à la précision numérique en programmation. Pour la précision de classification, utilisez la balise [precision-rappel].

12
Quelle est la différence entre float et double?
J'ai lu la différence entre la double précision et la simple précision. Cependant, dans la plupart des cas, floatet doublesemblent interchangeables, c'est-à-dire que l'utilisation de l'un ou de l'autre ne semble pas affecter les résultats. Est-ce vraiment le cas? Quand les flotteurs et les doubles sont-ils interchangeables? Quelles sont les …
10
JavaScript affichant un flottant à 2 décimales
Je voulais afficher un nombre à 2 décimales. Je pensais pouvoir utiliser toPrecision(2)en JavaScript. Cependant, si le nombre est 0.05, je comprends 0.0500. Je préfère que ça reste le même. Voir sur JSbin . Quelle est la meilleure façon de procéder? Je peux penser à coder quelques solutions, mais j'imagine …
11
Quelle est la différence entre une opération à virgule flottante simple précision et double précision?
Quelle est la différence entre une opération à virgule flottante simple précision et une opération flottante double précision? Je suis particulièrement intéressé par les termes pratiques liés aux consoles de jeux vidéo. Par exemple, la Nintendo 64 a-t-elle un processeur 64 bits et si c'est le cas, cela signifierait-il qu'elle …
21
Conserver la précision avec double en Java
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Le code ci-dessus s'imprime: 11.399999999999 Comment pourrais-je obtenir ceci pour simplement imprimer (ou pouvoir l'utiliser comme) 11.4?
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.