J'essaie de mettre en œuvre une routine à virgule fixe qui implique le calcul de la valeur de pour les petits qui approche . L'architecture cible est un FPGA. Un problème est que cette fonction ne se prête pas facilement à l'utilisation de l'expansion de Taylor. On peut voir que pour les petites valeurs de x, la pente de va à l'infini quand approches , l'évaluation de la fonction à l'aide d'une série de puissances implique donc de multiplier d'énormes coefficients par un petit . Cette méthode est donc numériquement instable.
En utilisant une approche itérative, le Newton-Raphson donne l'équation itérative suivante: , où nous essayons d'approximer . Mais encore une fois, puisque est petite, devrait également être petit pour que la solution converge. Puisque l'équation implique de diviser un petit nombre par un autre petit nombre, il est probable que l'arithmétique à virgule fixe échoue.
Sur ce, je voudrais savoir comment implémenter une approximation de petite valeur pour en utilisant l'arithmétique à virgule fixe, soit en utilisant des coefficients précalculés ou des méthodes itératives.