¿Dónde se pueden obtener buenos conjuntos de datos / problemas de prueba para probar algoritmos / rutinas?

41

Al evaluar la calidad de una pieza de software que está a punto de usar (ya sea algo que haya escrito o un paquete enlatado) en el trabajo computacional, a menudo es una buena idea ver qué tan bien funciona en conjuntos de datos estándar o problemas. ¿Dónde se pueden obtener estas pruebas para verificar las rutinas computacionales?

(Un sitio web / libro por respuesta, por favor).

testing data-sets

— JM
fuente

Tenía la intención de que esta fuera una publicación de Wiki de la comunidad, y así la marqué para la conversión.

— JM

3

¿No es esta pregunta demasiado amplia, es decir, depende de los algoritmos / la naturaleza del problema que este software se utiliza para resolver?

— Andre Holzner

Realmente quería que esta pregunta fuera wiki comunitaria , @Andre (como una "gran lista" de recursos); Lo había marcado para la conversión, pero no sé por qué no se convirtió.

— JM

@JM lo he convertido.

— David Ketcheson el

15

Si está interesado en realizar un análisis de matrices dispersas, también consideraría la Colección de matrices dispersas de la Universidad de Florida de Davis y el Mercado de matrices .

— Aron Ahmadia
fuente

1

También hay Matrix Market math.nist.gov/MatrixMarket

— stali

13

El método de soluciones fabricadas es un estándar para probar PDE y otros solucionadores. La mayoría de los sistemas de álgebra simbólica tienen facilidades para generar código, esto es útil para crear soluciones fabricadas. SymPy y Maple tienen la función ccode, entre otros para este propósito.

— aterrel
fuente

10

Las personas de la Universidad de Bari, Italia, que se hicieron cargo de CWI Amsterdam, actualmente mantienen un conjunto de pruebas para IVP (problemas de valor inicial para solucionadores de EDO).

— Jitse Niesen
fuente

1

En esta respuesta de JM en Math se proporcionan algunos conjuntos de pruebas adicionales para IVP. StackExchange: math.stackexchange.com/a/59398

— David Ketcheson

9

Para probar los algoritmos de partición de gráficos, existe el Archivo de particiones de gráficos de Walshaw .

— Aron Ahmadia
fuente

8

En el electromagnetismo computacional, existe un famoso (o infame debido a las dificultades en algunos) problemas de prueba: Prueba de métodos de análisis electromagnético (TEAM) .

Algunos de ellos realmente necesitan técnicas numéricas de vanguardia para obtener los resultados correctos de simulación alineados con los datos experimentales. Por ejemplo, el problema de la bobina conductora .

Dauge compila otro conjunto de problemas de prueba para las ecuaciones de Maxwell: cálculos de referencia para las ecuaciones de Maxwell para la aproximación de soluciones altamente singulares . El que está en el famoso (o infame) cubo de Fichera:

fichera

$\phi\in H^{1+\epsilon}$ $\mathbf{E} = -\nabla \phi$

Δ u = 0, where u = r^{α} \sin (α θ) .

$\Delta u= 0,\quad \text{where }\;u = r^{\alpha}\sin(\alpha \theta).$

— Shuhao Cao
fuente

7

Si está interesado en algoritmos de evaluación comparativa relacionados con estructuras moleculares, la base de datos de pubchem tiene una gran colección de moléculas principalmente orgánicas. Esto puede ser útil para comparar predicciones de propiedades moleculares obtenidas con diferentes modelos / programas. El sitio tiene varias opciones para descargar grandes lotes de moléculas que satisfacen algunos criterios predefinidos (por ejemplo, composición química).

— Toon Verstraelen
fuente

7

Arnold Neumaier mantiene una estabilidad de problemas de prueba para una optimización sin restricciones y restringida (programación no lineal). En esta colección se incluyen los problemas de prueba ahora estándar para la optimización sin restricciones debido a Moré, Garbow y Hillstrom.

— JM
fuente

7

El sitio web CUTEr actualiza el conjunto de pruebas CUTE mencionado en el sitio web de Arnold Neumaier con algunos problemas adicionales para la optimización y los solucionadores lineales. Además, proporciona herramientas de software para la prueba y actualización de álgebra lineal y solucionadores de optimización.

— Geoff Oxberry
fuente

7

Las pruebas de Athena si estás resolviendo leyes de conservación hiperbólica.

— Andreas Klöckner
fuente

6

Utilizamos conjuntos de datos meteorológicos en nuestro software de simulación de energía del edificio. Para los Estados Unidos, los conjuntos de datos consisten en observaciones meteorológicas tomadas (generalmente en aeropuertos) cada hora durante los 20 años anteriores.

Conjuntos de datos disponibles para descargar .
Manual para describir el formato del archivo .

— Tangurena
fuente

6

Para probar algoritmos estadísticos, hay un Manual de pequeños conjuntos de datos de DJ Hand, F. Daly, K. McConway, D. Lunn y E. Ostrowski. Algunos de esos conjuntos de datos se pueden descargar desde aquí .

— JM
fuente

4

Para probar análisis estadísticos multivariados y algoritmos de aprendizaje automático, existe el repositorio de conjuntos de datos UCI en http://www.ics.uci.edu/~mlearn/

— Sam Roberts
fuente

4

El sitio web de Hans Mittelman es un excelente recurso para navegar por las opciones de software actuales en optimización numérica. Incluye sus propios puntos de referencia, así como enlaces a otros puntos de referencia para problemas de prueba en la optimización .

— Aron Ahmadia
fuente

3

Alan Genz propuso un conjunto de funciones de prueba en el documento Prueba de rutinas de integración multidimensional . No puedo encontrar una versión en línea de este documento, pero se pueden encontrar referencias a él en los documentos sobre la biblioteca CUBA .

— dls
fuente

3

Hay una colección de problemas de optimización con restricciones de PDE de referencia mantenidos por Roland Herzog en la TU-Chemnitz aquí .

— Andrew T. Barker
fuente

2

Se debe haber probado un buen software, y debe decir cómo lo han hecho los autores y proporcionar los conjuntos de datos de prueba ellos mismos (por ejemplo, en forma de pruebas de regresión) o al menos proporcionar enlaces a los datos con los que se probó.

— Wolfgang Bangerth
fuente

Escucha Escucha; ver Reproducibilidad ff. y cuadernos reproducibles de investigación e IPython .

— denis

2

Si está buscando gráficos grandes o datos de red para probar. El Stanford Network Analysis Project (SNAP) tiene muchos conjuntos de datos de gráficos grandes típicamente en forma de una lista de adyacencia anonimizada. Algunas de sus opciones incluyen:

Datos

Redes sociales : Facebook, Gplus, Twitter, bitcoin, etc.
Redes de citas : los nodos representan papeles, los bordes son citas.
Gráficos web : los nodos representan páginas de bodas, los bordes son hipervínculos.
Redes de carreteras : los nodos representan intersecciones, los bordes son carreteras que conectan intersecciones.
Redes firmadas : pesos de borde positivo y negativo.
Redes temporales : los bordes tienen marcas de tiempo.
Muchos, muchos, otros ...

Propiedades de los datos

Número de aristas: entre ~ 10 y ~ 400 millones
Número de nodos: entre ~ 10 y ~ 100 millones
Tipos de borde: dirigido, no dirigido, ponderado, no ponderado, firmado y sin firmar.
Tipos de red: dirigida, no dirigida, bipartita, multigráfica, temporal, etiquetada.

Estadísticas de verdad sobre el terreno disponibles en los conjuntos de datos:

Numero de nodos
Número de bordes
Número de nodos en el componente más débilmente conectado
Número de bordes en el componente más débilmente conectado
Número de nodos en el componente más fuertemente conectado
Número de bordes en el componente más fuertemente conectado
Coeficiente de agrupamiento promedio
Numero de triangulos
Fracción de triángulos cerrados.
Diámetro (ruta más larga más corta)
Diámetro efectivo del percentil 90

Herramientas

Herramienta SNAP para C ++ : una herramienta de uso general con alto rendimiento para el análisis y la manipulación de redes grandes.
Herramienta SNAP para Python

— Ryan
fuente

@JM no hay problema! Utilicé algunos de sus conjuntos de datos de redes sociales hace un tiempo para un proyecto y luego me topé con este intercambio de pila y pensé que podría ser útil aquí.

— Ryan

-3

Los datos son fáciles; La API para obtenerlo puede ser difícil. Recomiendo Quandl . Este sitio tiene más de 10 millones de conjuntos de datos disponibles públicamente accesibles a través de una API REST-ful fácil y sencilla. Todos los datos se devuelven en CSV o JSON. O, si la programación no es su punto fuerte, hay formas fáciles de llevar los datos a Excel. Los programadores de R, Python y Ruby estarán en casa con bibliotecas nativas.

— Brian Risk
fuente

1

Bienvenido a Scicomp! No creo que este sea el tipo de datos sobre el que se trata la pregunta; para probar algoritmos, no solo necesita un conjunto de datos, sino también un resultado conocido correspondiente (según el problema / algoritmo) para comparar sus resultados.

— Christian Clason

Gracias, @ChristianClason. Veo a que te refieres. Por ejemplo, si el software es para regresión lineal, el autor está interesado en los conjuntos de datos, así como en un conjunto de resultados de análisis investigados para probar si el paquete de regresión lineal funciona correctamente.

— Brian Risk