Rangos de cálculo, cantidad de dígitos y precisión, Rango del cálculo y precisión, S-33 – Casio FX-300MS Manual del usuario

Página 34

Advertising
background image

S-33

19: km/h

' m/s

20: m/s

' km/h

21: oz

' g

22: g

' oz

23: lb

' kg

24: kg

' lb

25: atm

' Pa

26: Pa

' atm

27: mmHg

' Pa

28: Pa

' mmHg

29: hp

' kW

30: kW

' hp

31: kgf/cm

2

' Pa

32: Pa

' kgf/cm

2

33: kgf

m

' J

34: J

' kgf

m

35: lbf/in

2

' kPa

36: kPa

' lbf/in

2

37: °F

' °C

38: °C

' °F

39: J

' cal

40: cal

' J

Los datos de fórmulas de conversión se basan en el documento “NIST
Special Publication 811 (2008)”.
Nota: El comando J

'cal realiza conversión de valores a 15°C de

temperatura.

Rangos de cálculo, cantidad de
dígitos y precisión

Rango del cálculo y precisión

Rangos de cálculo

±1 × 10

–99

a

±9,999999999 × 10

99

o 0

Cantidad de dígitos
usados internamente
en el cálculo

15 dígitos

Precisión

En general,

±1 en el 10.° dígito para

un cálculo individual. La precisión con
visualización exponencial es

±1 sobre

el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.

Rangos de entrada de cálculo de funciones y
precisión

Funciones

Rango de entrada

sen

x

cos

x

DEG

0

 |

x

|  9 × 10

9

RAD

0

 |

x

|  157079632,7

GRA

0

 |

x

|  1 × 10

10

tan

x

DEG

El mismo que sen

x

, excepto cuando



x



=

(2

n

−1)



90.

RAD

El mismo que sen

x

, excepto cuando



x



=

(2

n

−1)



π/2.

GRA

El mismo que sen

x

, excepto cuando



x



=

(2

n

−1)



100.

Advertising
Este manual se refiere a los siguientes productos: