Preguntas etiquetadas con floating-point

He estado tratando de verificar mis filtros en el ráster DEM para el reconocimiento de patrones y siempre resulta en la falta de las últimas filas y columnas (como ... 20) . He intentado con la biblioteca PIL, carga de imágenes. Luego con numpy. La salida es la misma. Pensé, …

26 python  raster  gdal  numpy  floating-point 

¿Existe un estudio básico o introductorio que examine y compare la precisión de los datos espaciales cuando se trabaja? con precisión variable de la entrada de datos, como tener 1, 2, ... lugares decimales? con las diferentes implementaciones de puntos flotantes (flotante, doble)? con datos cerca del ecuador en comparación …

22 gps  distance  wgs84  accuracy  floating-point 

Por casualidad, descubrí cómo ArcMap muestra valores especiales de coma flotante para el usuario. + ∞ (infinito positivo) se muestra como 1.#INF –∞ (infinito negativo) supuestamente se mostraría como -1.#INF- No he verificado este. NaN (no es un número) se muestra como alineado a la derecha <Null>, no debe confundirse …

10 arcgis-desktop  arcmap  arcobjects  definition-query  floating-point