Questions marquées «precision»

Pour les questions liées à la précision numérique en programmation. Pour la précision de classification, utilisez la balise [precision-rappel].

Dans quel ordre les flotteurs doivent-ils être ajoutés pour obtenir le résultat le plus précis?

C'est une question qui m'a été posée lors de mon récent entretien et que je veux savoir (je ne me souviens pas vraiment de la théorie de l'analyse numérique, alors aidez-moi :) Si nous avons une fonction, qui accumule des nombres à virgule flottante: std::accumulate(v.begin(), v.end(), 0.0); vest un std::vector<float>, …

105 c++ floating-point precision

Est-il sûr de vérifier les valeurs à virgule flottante pour l'égalité à 0?

Je sais que vous ne pouvez pas compter sur l'égalité entre les valeurs de type double ou décimal normalement, mais je me demande si 0 est un cas particulier. Bien que je puisse comprendre les imprécisions entre 0,0000000000000001 et 0,0000000000000002, 0 lui-même semble assez difficile à gâcher car ce n'est …

100 c# .net floating-point precision zero

Précision C # DateTime.Now

Je viens de rencontrer un comportement inattendu avec DateTime.UtcNow lors de certains tests unitaires. Il semble que lorsque vous appelez DateTime.Now/UtcNow en succession rapide, il semble vous rendre la même valeur pendant un intervalle de temps plus long que prévu, plutôt que de capturer des incréments de millisecondes plus précis. …

97 c# .net datetime precision time-precision

Combien de nombres doubles y a-t-il entre 0,0 et 1,0?

C'est quelque chose qui me préoccupe depuis des années, mais je n'ai jamais pris le temps de le demander auparavant. De nombreux (pseudo) générateurs de nombres aléatoires génèrent un nombre aléatoire compris entre 0,0 et 1,0. Mathématiquement, il y a des nombres infinis dans cette plage, mais doublec'est un nombre …

94 random floating-point double precision

Problème de flotteur PHP7.1 json_encode ()

Ce n'est pas une question car il s'agit plus d'un être conscient. J'ai mis à jour une application qui utilise json_encode()PHP7.1.1 et je voyais un problème avec les flotteurs modifiés pour parfois étendre 17 chiffres. Selon la documentation, PHP 7.1.x a commencé à utiliser serialize_precisionau lieu de la précision lors …

93 php json precision php-7.1

Pourquoi 199,96 - 0 = 200 en SQL?

J'ai des clients qui reçoivent des factures bizarres. J'ai pu isoler le problème central: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * …

84 sql-server tsql precision sql-server-2016 sqldatatypes

Quelle est la manière correcte / standard de vérifier si la différence est inférieure à la précision de la machine?

Je me retrouve souvent dans des situations où il est nécessaire de vérifier si la différence obtenue est supérieure à la précision de la machine. On dirait à cette fin R a une variable à portée de main: .Machine$double.eps. Cependant, lorsque je me tourne vers le code source R pour …

36 r floating-point rounding precision

Pourquoi np.dot est-il imprécis? (tableaux n-dim)

Supposons que nous prenions np.dotdeux 'float32'tableaux 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Nombres. Sauf, ils peuvent changer: CAS 1 : tranchea np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): …

15 python c arrays numpy precision

Somme stable efficace de nombres ordonnés

J'ai une assez longue liste de nombres positifs à virgule flottante ( std::vector<float>, taille ~ 1000). Les nombres sont triés par ordre décroissant. Si je les additionne suite à la commande: for (auto v : vec) { sum += v; } Je suppose que je peux avoir un problème de …

12 c++ floating-point precision

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.

Licensed under cc by-sa 3.0 with attribution required.