Rangos de cálculo, cantidad de dígitos y precisión, Rango del cálculo y precisión, S-14 – Casio fx-55 PLUS Manual del usuario

Página 15: F=5, 5 6, F=3, 6 7

Advertising
background image

S-14

l=

F=3,

25

30

Factor

l=

F=5,

5
6

l=

5
6

Cuando no es posible una simplificación mayor, aparece “Simplified”
momentáneamente en el display y luego se muestra el resultado del
cálculo.

Cuando se especifica un divisor de 3:

18
21

=

6
7

18

' 21 =l 3 =

F=3,

6
7

o 18

' 21 el 3 =

F=3,

6
7

Rangos de cálculo, cantidad de
dígitos y precisión

El rango del cálculo, la cantidad de dígitos usados internamente para el
cálculo y la precisión del cálculo dependen del tipo de cálculo que realice.

Rango del cálculo y precisión

Rangos de cálculo

±1 × 10

–99

a

±9,999999999 × 10

99

o 0

Cantidad de dígitos usados
internamente en el cálculo

15 dígitos

Precisión

En general, ± 1 en el 10mo dígito para
un cálculo individual. La precisión con
visualización exponencial es ± 1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.

Rangos de entrada de cálculo de funciones y precisión

Funciones

Rango de entrada

10

x

–9,999999999

× 10

99



x

 99,99999999

'

x

0



x

 1 × 10

100

x

2

|

x

|  1 × 10

50

x

–1

|

x

|  1 × 10

100

;

x

G 0

°’ ”

|

a

|,

b

,

c

 1 × 10

100

; 0



b

,

c

El segundo valor mostrado está sujeto a un error de ±1
en la segunda posición decimal.

Advertising