Número de dígitos y precisión, Número de dígitos precisión – Casio ClassPad fx-CP400 Manual del usuario
Página 283
Apéndice 283
Número de dígitos y precisión
Número de dígitos
Modo estándar
Lo siguiente se aplica cuando no se selecciona el
cuadro de marcación junto al elemento “Decimal
Calculation” en el cuadro de diálogo Formato básico.
• Se almacena hasta 611 dígitos en la memoria para
valores enteros.
• Valores decimales hasta 15 dígitos se convierten en
formato fraccionario y se guardan en la memoria.
Cuando una expresión matemática no se puede
convertir en formato fraccionario, los resultados se
muestran en formato decimal.
• Los valores almacenados en la memoria se
muestran como están, independientemente de
cómo se configuren las opciones [Number Format]
(Normal 1, Normal 2, Fix 0 a Fix 9, Sci 0 a Sci 9)
(excepto cuando se muestra un valor decimal).
Modo decimal
Lo siguiente se aplica cuando se selecciona el cuadro
de marcación junto al elemento “Decimal Calculation”
en el cuadro de diálogo Formato básico.
• Los valores almacenados en la memoria Ans y
los valores asignados a variables tienen el mismo
número de dígitos como los definidos para los
valores del modo estándar.
• Los valores se muestran según cómo se configuren
las opciones [Number Format] (Normal 1, Normal 2,
Fix 0 a Fix 9, Sci 0 a Sci 9).
• Los valores visualizados se redondearán a la
cantidad adecuada de lugares decimales.
• Algunas aplicaciones almacenan valores usando
una mantisa hasta 15 dígitos de largo y 3 dígitos de
exponente.
Precisión
• Los cálculos internos se realizan empleando 15 dígitos.
• El error para una expresión matemática simple (error de cálculo del modo decimal) es de ±1 el el décimo
dígito. En el caso de visualización exponencial, el error de cálculo es de ±1 en el último dígito significativo.
Tenga en cuenta que realizar cálculos consecutivos hacen que el error sea acumulativo. El error también es
acumulativo para los cálculos internos consecutivos realizados por: ^(
x
y
),
x
',
x
!,
n
P
r
,
n
C
r
, etc.
• El error es acumulativo y tiende a ser mayor en la cercanía de puntos singulares y de inflexión de una
función, y cerca de cero. Con sinh(
x
) y tanh(
x
), por ejemplo, el punto de inflexión se produce cuando
x
= 0.
En esta cercanía, el error es acumulativo y la precisión es mala.