Precisión y número de decimales

• Este tema desarrolla el tema de la precisión en MAMBA™ y la incidencia que en ella tiene el número de decimales.

Contenido

Sobre el número de decimales

• En la mayoría de software de mediciones del mercado se puede especificar el número de decimales que se desea, aunque tal ajuste no afecta más que a la representación gráfica de una cifra, es decir se trunca el valor decimal a la precisión especificada, pero las operaciones se mantienen con el valor íntegro.

• En MAMBA™, sin embargo, el ajuste del número de decimales fuerza un recálculo del presupuesto, de modo que la multiplicación y suma mostrada en pantalla mantenga su correspondencia con el total presentado.

• MAMBA™ sigue estrictamente las especificaciones del estándar FIE-BDC respecto de la metodología de cálculo del precio de un concepto descompuesto:

  • $\begin{aligned}I=\overset{n}{\underset{i=0}{\sum}} Fr_i∗R_i∗P_i\end{aligned}$

  • Siendo $I$ el importe del concepto descompuesto, $n$ cada descomposición de dicho concepto, $Fr_i$ y $R_i$ cada factor de rendimiento y cada rendimiento de estas descomposiciones, y $P_i$ el precio unitario del concepto simple asociado a cada descomposición.

  • Para calcular la expresión, MAMBA™ no toma el valor almacenado de cada incógnita, sino su valor redondeado a la precisión designada, de modo que todo el cálculo depende de ella.

  • Si se modifica, por tanto, el número de decimales de cualquier término de la expresión, MAMBA™ recalculará, en tiempo real, el importe resultante.

• Podría decirse que, mientras que otras herramientas tratan los decimales como algo cosmético afectando solo a la representación de los números, MAMBA™ va más allá y calcula en tiempo real los valores atendiendo a dicha precisión. Es decir, que en MAMBA™ lo que realmente se está ajustando es la precisión del cálculo.

Sobre los tipos numéricos

• En programación hay diversas maneras de almacenar un valor numérico en punto flotante: float, double o decimal.

• Los programas de mediciones habitualmente usan precisión float, que requiere 32 bits y admite 7 dígitos mas el signo. Algunos usan precisión double, que usa 64 bits y admite de 15 a 16 dígitos. En este contexto, MAMBA™ es de los pocos programas, si no el único, que usa precisión decimal, de 128 bits y con 28 a 29 dígitos significativos.

• Una mayor precisión va aparejada, como se ve, a un mayor consumo de memoria y a un mayor coste de cálculo, pero a cambio se obtienen resultados más precisos, aunque hay una diferencia adicional y muy significativa:

  • Los valores float y double son tipos de punto flotante almacenados en formato binario, en tanto que los valores decimal son tipos de punto flotante almacenado en formato decimal, lo que les otorga una precisión extra y es el motivo de que se usen habitualmente en operaciones financieras.

  • Los valores de tipo decimal pueden representar con el 100% de precisión cualquier número decimal.

Sobre el algoritmo de redondeo

• Dado que MAMBA™ redondea cada cifra a la precisión requerida antes de operar con ella, es importante señalar qué ocurre con los redondeos de punto medio, esto es, el redondeo de los valores decimales cuya cifra siguiente a la última significativa es 5.

• En España la Ley 46/1998 de 17 de diciembre, publicada en el BOE 302 de 18/12/1998, en su artículo 11, indica que los importes monetarios deben redondearse al céntimo más próximo, y que cuando el redondeo implique una cifra que requiera exactamente la mitad de un céntimo el redondeo se efectuará a la cifra superior.

• Adicionalmente, el Instituto Nacional de Tecnologías Educativas y de Formación del Profesorado, a propósito de los redondeos aclara el mismo procedimiento que la Ley 46/1998.

• En general hay dos convenciones para redondear los valores de punto medio:

  • Redondeo de cero: Los valores de punto medio se redondean al siguiente número lejos de cero.

  • Redondeo al más cercano: Los valores de punto medio se redondean al número par más cercano.

• El redondeo de cero es la forma más conocida de redondeo en España, y a ella se refiere implícitamente la Ley 46/1998, pero el redondeo al más cercano es el estándar en las operaciones financieras y estadísticas.

  • Cuando se usa en varias operaciones de redondeo, el redondeo al más cercano reduce el error causado por el redondeo constante de los valores de punto medio en una sola dirección. En algunos casos el error puede ser significativo.

    • La norma UNE-EN ISO 80000-1:2014 de magnitudes y unidades, indica esto mismo.

• MAMBA™ permite usar cualquiera de las dos convenciones de redondeo de punto medio, ajustando la configuración desde el menú cinta:

  

  • Si se activa se usa el redondeo al más cercano.

  • Si se desactiva se usa el redondeo de cero.

Enlaces

Tutoriales

Guías rápidas

Referencias

Temas