Representação em ponto flutuante
O erro de arredondamento decorre da precisão finita dos números reais no computador digital. Uma variável de precisão dupla (doble) típica do Octave/Scilab ou MODELICA (Real) representa os valores reais em 64bits, sendo 52 deles utilizados para representar a mantissa, que corresponde de 15 a 17 algarismos significativos na base 10.
Muitas operações sucessivas acumulam os erros de arredondamento, limitando o número de passos possíveis na integração numérica.
Click Double-precision_floating-point_format.pdf link to view the file.