Metrohm 899 Coulometer - Manual (Página 117)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
10 Apéndice
899 Coulometer
￭￭￭￭￭￭￭￭ 107
10.9 Algoritmos de cálculo en 899 Coulometer
Formato numérico
El software del 899 Coulometer hace los cálculos según la norma
ampliada IEEE 754 (IEEE Standard for Binary Floating-Point Arithmetic for
Microprocessor Systems). Esto significa que los números se utilizan con
"double precision" (64 bits) en los cálculos. Los números decimales se con-
vierten en el interior del computador en números binarios y se utilizan en
este formato para los cálculos. La salida en la pantalla y en los informes se
realiza nuevamente en números decimales; los números binarios se trans-
forman por tanto nuevamente en números decimales. Para poder com-
probar los cálculos realizados internamente en el computador según IEEE
754, los números se incluyen en el informe del cálculo con toda su exacti-
tud. Entre un número decimal introducido inicialmente y la representación
interna del computador con precisión completa se puede producir una
diferencia mínima en el rango de las últimas posiciones decimales. Esta
diferencia se debe al hecho de que no existe una correspondencia binaria
exacta para cada número decimal. Si, p. ej. se introduce el peso de mues-
tra de 50,3 mg, se representará en el informe del cálculo en "double pre-
cision" como 5,02999999999999E+01.
Procedimiento de redondeo
Los valores de medida y los resultados se redondean hasta el número defi-
nido de posiciones decimales (redondeo comercial, según la Pharmaco-
poeia de los EE. UU., USP). Si la cifra de la primera posición decimal que
cae es 1, 2, 3 ó 4, se redondea hacia abajo; si esta cifra es 5, 6, 7, 8 ó
9, se redondea hacia arriba. Los números negativos se redondean según
su valor, es decir, su distancia de cero.
Ejemplos:
2,33 pasará a ser 2,3
2,35 pasará a ser 2,4
2,47 pasará a ser 2,5
–2,38 pasará a ser –2,4
–2,45 pasará a ser –2,5
Estadística
Se calculan la media aritmética y la desviación estándar absoluta y relativa
de los resultados:
Se pueden evaluar estadísticamente un máximo de cinco resultados (1 ≤ k
≤ 5), que se calcularán en una determinación. Una serie estadística puede
incluir un máximo de 20 determinaciones (1
≤ n ≤ 20).