La potencia de 2 más pequeña que sumada a 1 modifica este dígito, se denomina
precisión de la máquina. |
En Matlab la función eps nos indica la precisión con que
trabaja el programa.
|
>> eps
ans =
2.2204e-016
>> log2(eps)
ans =
-52
>> precision=2^(-52)
precision =
2.2204e-016
|
|
Por lo tanto, los errores serán del orden de la
decimosexta cifra significativa en la representación decimal de un número.
Esto nos confirma que Matlab utiliza la norma IEEE 754.
Otra comprobación con Matlab
Observese que
2
-53
=1.1102e-016
es 0 frente a 1.
Esta precisión es la medida del intervalo entre el 1 y su siguiente número
máquina
1
s
____________|__________|____________
1 --- eps --- 1s
|