Preguntas con respuestas sobre "floating-accuracy"

My Java program is centered around high precision calculations, which need to be accurate to at least 120 decimal places. ...

Estoy usando MS visual C++ 2005 para implementar algunos algoritmos matemáticos en C++. Mi código C ++ toma valores de entrada de tipo de datos dobles de 10K con una precisión de 12 lugares decimales (por ejemplo, 866.333333333333) que se generan en Matlab. Luego, mi código hace algunos cálculos y da un resultado que es daño...

...

Un número puede tener múltiples representaciones si usamos un flotante, por lo que los resultados de una división de flotantes pueden producir flotantes diferentes bit a bit. Pero, ¿y si el denominador es una potencia de 2? ...

Tengo problemas en mi código debido a las múltiples representaciones que puede tener un mismo número flotante. ...

...

...

Tengo una pregunta sobre la precisión del punto flotante. Según tengo entendido, ULP es la distancia entre dos números finitos discretos consecutivos en una especificación dada. O la unidad en el lugar menos significativo como dice el nombre. En cualquier caso, vi esto en la especificación de Java para sinh en java.lang.Math: ...

Soy nuevo en el aprendizaje de MPI y codifiqué el siguiente programa simple para realizar la integración...

dicho código en VBScript devolverá un resultado incorrecto: ...

Mientras trataba de averiguar cómo redondear un flotador como 1.255 a la centésima más cercana, encontré algo interesante. Estoy usando gcc 4.4.5 en Debian 6. ...

El siguiente código es obviamente incorrecto. ¿Cuál es el problema? ...

Estoy tratando de aprender Clojure e intenté definir esta función simple: ...

Estoy usando una constante flotante y estableciendo una variable flotante privada de objetos a la constante flotante a continuación, pero cuando el objeto genera el valor en el que se estableció, está redondeando el último dígito en el flotante. ...

Quiero determinar (en c ++) si un número flotante es el inverso multiplicativo de otro número flotante. El problema es que tengo que usar una tercera variable para hacerlo. Por ejemplo, este código: ...

Cuando se usa el agregado Avg para un modelo.DecimalField, el valor devuelto es un flotante, en lugar de un decimal.Decimal. ¿Es esto porque mi base de datos específica (en este caso sqlite3) no admite valores agregados como decimales? Si es así, ¿existen bases de datos que lo hagan? ¿Hay alguna forma de evitar esto (es decir, una forma de ...

En C usando float.h me pregunto cómo puedo encontrar el número más grande que si sumo a 1 la respuesta seguirá siendo 1. ...

Un programa de calculadora que he creado funciona casi a la perfección, con la excepción de que Math.Sin () y Math.Log () parecen tener algunas inexactitudes de las que parece que no puedo llegar al fondo. Intentaré dar tantos detalles como pueda. ...

Esta pregunta se refiere a los números de coma flotante estándar IEEE utilizados en C / x86. ...

Versión de PHP 5.3.6 ...

No entiendo por qué recibo un error de un tipo de datos incompatible, estoy usando un flotador para un valor financiero, ¡no quiero pasar de dos lugares decimales! ...

...

Si tengo un archivo YAML como ...

Básicamente, no entiendo por qué el siguiente código generará 434 cuando 4.35 * 100 = 435.0 que se convierte al int de 435, ¿verdad? ...

...

¿Ha cambiado la función round () incorporada en Python entre 2.4 y 2.7? ...

#include "stdafx.h" ...

Estoy trabajando en un programa que necesita reducir al cubo un número. Para resumir, necesito comparar el número con una cadena, por lo que necesito deshacerme del lugar decimal que da un doble cuando convierto a cadena. Para hacer esto, usé Math.round y lo guardé como un archivo. Esto funciona bien para relativamente normales ...

Algunas veces sucede cuando uso números de punto flotante en c ++ y solo uso números como múltiplos de, digamos 0.1, como un incremento en un bucle for, el número real que son los iteradores de bucle no es exactamente múltiplos de 0.1 pero tiene impredeciblemente otros agregados o números minúsculos restados del orden de ...

En la siguiente consulta ...