Metrohm 840 PC Control 5.0 / Touch Control - Manual (Página 349)

6 Apéndice
PC Control / Touch Control
339
razón, en la estadística se usan los valores individuales en la forma de
representación redondeada seleccionada por el usuario.
El factor determinante para la exactitud de los cálculos no es el número
de decimales, sino el número de dígitos significativos de las cifras de-
cimales representadas. Debido al formato numérico de 32 bits imple-
mentado sobre la base de la norma IEEE 754, las cifras decimales re-
sultantes representadas poseen 7 dígitos decimales significativos se-
guros.
El número de los dígitos significativos influyen en su elección de la uni-
dad y del número de decimales. Como la unidad de resultado que se
desea ajustar contiene en parte tanto el prefijo „mili“ como también la
unidad física propiamente dicha, el número de dígitos significativos va-
ría correspondientemente en tres dígitos para una conversión de este
tipo.
Ejemplo:
El resultado visualizado 1234,56789 mg/l tiene 7 dígitos seguros. Debe
redondearse a 3 decimales según el método de redondeo antes men-
cionado:
1234,568 mg/L (7 dígitos significativos, de los cuales 3
decimales)
Con la unidad "g/L" se redondea el mismo resultado 1,23456789 g/l
también a tres decimales:
1,235 g/L (4 dígitos significativos, de los cuales 3
decimales)
Mediante la eliminación del prefijo „mili“, se redujo en tres el número de
dígitos significativos, habiendo ahora cuatro dígitos.
Para lograr las menores pérdidas de exactitud al redondear, le reco-
mendamos seleccionar la aplicación y el formato numérico de tal forma
que las cifras visualizadas tengan en lo posible muchas cifras enteras
(cirfras antes de la coma).
Un nuevo cálculo completo de la estadística con una calculadora de
bolsillo o con programas de cálculo de PC puede arrojar diferencias.
Esto se debe a los diferentes formatos numéricos binarios empleados
por estas calculadoras. El Titrando calcula con cifras binarias de 32
bits, y los programas de PC (por ej. MS-Excel) utilizan otro formato bi-
nario, por ej. IEEE 754 de 64 bits.
Nota
Las pérdidas de exactitud descritas debidas al redondeo en el sector
de los máximos dígitos seguros sólo tienen importancia teórica. Son
generalmente unas magnitudes más bajas que, por ejemplo, las in-
seguridades resultantes del peso de la muestra.