Questions marquées «dc»

Comment formater un nombre à virgule flottante avec exactement 2 chiffres significatifs en bash?

Je veux imprimer le nombre à virgule flottante avec exactement deux chiffres significatifs dans bash (peut-être en utilisant un outil commun comme awk, bc, dc, perl etc.). Exemples: 76543 doit être imprimé comme 76000 0,0076543 doit être imprimé comme 0,0076 Dans les deux cas, les chiffres significatifs sont 7 et …

17 bash awk bc floating-point dc

Perte de précision avec DC

Je veux utiliser dcpour gérer certains nombres de base 16 avec des points hexadécimaux, mais je rencontre des problèmes de précision. Par exemple, ci-dessous, je multiplie F423F.FDpar 100, les deux hex. La réponse attendue est F423FFD, au lieu de cela, elle donne F423FFA.E1, proche mais pas assez précise même après …

12 dc

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.

Licensed under cc by-sa 3.0 with attribution required.