Partager à toutes et tous (enfin ceux que ça intéresse) ce que je note sur le net

Aller au contenu | Aller au menu | Aller à la recherche

Le site 0.30000000000000004.com ou la démo que les ordinateurs ça calcule "mal"

En effet, pour les opérations entières, pas trop de problèmes pour les ordinateurs.  C'est facile de les modéliser en binaire, avec des 0 et des 1.
Mais à partir du moment où on entre dans le monde des Réels ℝ, c'est une autre histoire.
L'ordi doit faire des approximations, des arrondis, et de temps à autre on tombe sur cette bétise:

JavaScript
console.log(.1 + .2);

0.30000000000000004

The decimal.js library provides an arbitrary-precision Decimal type for JavaScript.

Source: SebSauvage

Floating Point Math

0.30000000000000004.com.png
0.30000000000000004.com