Metrohm 899 Coulometer - Manual (Página 118)

10.9 Algoritmos de cálculo en 899 Coulometer
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
108 ￭￭￭￭￭￭￭￭
899 Coulometer
Para las fórmulas a continuación se aplica la siguiente convención:
1 ≤ n ≤ 20 y 1 ≤ k ≤ 5.
Valor medio:
Desviación estándar absoluta:
Desviación estándar relativa (en %):
Explicaciones
En la estadística, se utilizan los valores individuales con toda su exactitud.
En el formato de número de 64 bits, para el formato de número de coma
flotante se obtienen 15 posiciones significativas en notación decimal.
La exactitud se puede controlar mediante la selección del prefijo de la uni-
dad (mili, micro) y el número de posiciones decimales.
Ejemplo:
El resultado mostrado 1234,56789158763 mg/L tiene 15 posiciones
significativas. Se debe redondear a tres posiciones decimales según el pro-
cedimiento de redondeo anterior:
￭ 1234,568 mg/L.
Si se imprime el mismo resultado en g/L (1,23456789158763 g/L) y se
redondea igualmente a tres posiciones decimales, se obtiene
￭ 1,235 g/L.
Es decir, se obtiene la menor pérdida de exactitud mediante el redon-
deado cuando se selecciona la aplicación y el formato de número de
modo que los números mostrados muestren el máximo número posible de
posiciones antes de la coma de decimales.
Un nuevo cálculo completo de la estadística mediante una calculadora de
bolsillo o un programa informático de cálculo puede dar lugar a desviacio-
nes. Esto se debe a los diferentes formatos de números binarios utilizados
en estas herramientas.