Preguntas con respuestas sobre "floating-accuracy"

196 preguntas, página #1

0

votos

2

respuestas

vistas 1,438

Precisión doble: MS visual C ++ 2005 Vs Matlab

Estoy usando MS visual C++ 2005 para implementar algunos algoritmos matemáticos en C++. Mi código C ++ toma valores de entrada de tipo de datos dobles de 10K con una precisión de 12 lugares decimales (por ejemplo, 866.333333333333) que se generan en Matlab. Luego, mi código hace algunos cálculos y da un resultado que es daño...

preguntado 10 años, 2 meses

1

votos

3

respuestas

vistas 252

¿Error de ULP no entero?

Tengo una pregunta sobre la precisión del punto flotante. Según tengo entendido, ULP es la distancia entre dos números finitos discretos consecutivos en una especificación dada. O la unidad en el lugar menos significativo como dice el nombre. En cualquier caso, vi esto en la especificación de Java para sinh en java.lang.Math: ...

preguntado 10 años, 3 meses

0

votos

3

respuestas

vistas 282

Java float inesperadamente redondeado

Estoy usando una constante flotante y estableciendo una variable flotante privada de objetos a la constante flotante a continuación, pero cuando el objeto genera el valor en el que se estableció, está redondeando el último dígito en el flotante. ...

preguntado 10 años, 4 meses

3

votos

1

respuestas

vistas 576

¿Puedo recuperar un decimal de Avg en un DecimalField en Django?

Cuando se usa el agregado Avg para un modelo.DecimalField, el valor devuelto es un flotante, en lugar de un decimal.Decimal. ¿Es esto porque mi base de datos específica (en este caso sqlite3) no admite valores agregados como decimales? Si es así, ¿existen bases de datos que lo hagan? ¿Hay alguna forma de evitar esto (es decir, una forma de ...

preguntado 10 años, 4 meses

0

votos

3

respuestas

vistas 1,781

Problema de Java Math.pow

Estoy trabajando en un programa que necesita reducir al cubo un número. Para resumir, necesito comparar el número con una cadena, por lo que necesito deshacerme del lugar decimal que da un doble cuando convierto a cadena. Para hacer esto, usé Math.round y lo guardé como un archivo. Esto funciona bien para relativamente normales ...

preguntado 10 años, 6 meses

0

votos

3

respuestas

vistas 176

Evitar números diminutos erráticos al trabajar con números de punto flotante

Algunas veces sucede cuando uso números de punto flotante en c ++ y solo uso números como múltiplos de, digamos 0.1, como un incremento en un bucle for, el número real que son los iteradores de bucle no es exactamente múltiplos de 0.1 pero tiene impredeciblemente otros agregados o números minúsculos restados del orden de ...

preguntado 10 años, 6 meses