Metrohm 840 PC Control 5.0 / Touch Control - Manual (Página 348)

6.8 Algoritmos de cálculo en el Titrando
338
PC Control / Touch Control
6.8 Algoritmos de cálculo en el Titrando
A continuación se explican los algoritmos y formatos numéricos utiliza-
dos en el software de aparato.
Formato numérico
En el software se implementa la Norma IEEE 754 (1985) para aritmética
binaria con coma flotante en "single precisión" (32 bits).
Redondeo
Valores medidos y resultados se representan redondeados según la
opción seleccionada por el usuario. El valor de estas cifras se redon-
dea aritméticamente según el siguiente método:
Ejemplo de redondeo a n = 3 decimales:
1. 99.644499
99644.499
2. 99644.499 99644.999
3. 99644.499 99644
4. 99644 99.644
Estadística
Se calculan el valor medio aritmético así como la desviación estándar
absoluta y relativa de resultados R, puntos finales EP y variables C.
De una determinación pueden evaluarse estadísticamente hasta nueve
resultados, cada uno con máx. 20 determinaciones.
Para las fórmulas que figuran a continuación se aplica la siguiente con-
vención:
1 ≤ n ≤ 20
1 ≤ k ≤ 9
Valor medio
k
x :
∑
=
⋅ =
n
1 i
i, k k
R
n
1
x
Desviación estándar máxima S abs
k
:
( )
1 n
x R
abs S
n
1 i
2
k i, k
k −
−
+ =
∑
=
Desviación estándar relativa S rel
k
(in %):
k
k
k x
abs S
100 rel S ⋅ =
Explicación
Los cálculos estadísticos del software se implementaron para que, en
lo posible, el propio usuario esté en condiciones de verificarlos. Por tal
cut
⋅ 10 -n
+ 0.5
⋅ 10 n