Metrohm 877 Titrino plus - Manual (Página 124)

10.8 Algoritmos de cálculo en 877 Titrino plus
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
114 ￭￭￭￭￭￭￭￭
877 Titrino plus
Respuesta del aparato Comentario
OK Instrucción ejecutada
E1 Método no encontrado
E2 Variable inválida
E3 Instrucción inválida
10.8 Algoritmos de cálculo en 877 Titrino plus
Formato numérico
El software del 877 Titrino plus hace los cálculos según la norma ampliada
IEEE 754 (IEEE Standard for Binary Floating-Point Arithmetic for Micropro-
cessor Systems). Esto significa que los números se utilizan con "double
precision" (64 bits) en los cálculos. Los números decimales se convierten
en el interior del computador en números binarios y se utilizan en este for-
mato para los cálculos. La salida en la pantalla y en los informes se realiza
nuevamente en números decimales; los números binarios se transforman
por tanto nuevamente en números decimales. Para poder comprobar los
cálculos realizados internamente en el computador según IEEE 754, los
números se incluyen en el informe del cálculo con toda su exactitud. Entre
un número decimal introducido inicialmente y la representación interna
del computador con precisión completa se puede producir una diferencia
mínima en el rango de las últimas posiciones decimales. Esta diferencia se
debe al hecho de que no existe una correspondencia binaria exacta para
cada número decimal. Si, p. ej. se introduce el peso de muestra de 50,3
mg, se representará en el informe del cálculo en "double precision" como
5,02999999999999E+01.
Procedimiento de redondeo
Los valores de medida y los resultados se redondean hasta el número defi-
nido de posiciones decimales (redondeo comercial, según la Pharmaco-
poeia de los EE. UU., USP). Si la cifra de la primera posición decimal que
cae es 1, 2, 3 ó 4, se redondea hacia abajo; si esta cifra es 5, 6, 7, 8 ó
9, se redondea hacia arriba. Los números negativos se redondean según
su valor, es decir, su distancia de cero.
Ejemplos:
2,33 pasará a ser 2,3
2,35 pasará a ser 2,4
2,47 pasará a ser 2,5
–2,38 pasará a ser –2,4
–2,45 pasará a ser –2,5