Estadísticas y Big Data

Al elegir el parámetro de regularización lambda en Ridge o Lasso, el método recomendado es probar diferentes valores de lambda, medir el error en el conjunto de validación y finalmente elegir el valor de lambda que devuelve el error más bajo. No está claro para mí si la función f …

11 cross-validation  error  regularization  validation  optimization 

Estoy usando el filtro de Kalman de una manera muy estándar. El sistema está representado por la ecuación de estado xt+1=Fxt+vt+1xt+1=Fxt+vt+1x_{t+1}=Fx_{t}+v_{t+1} y la ecuación de observación yt=Hxt+Azt+wtyt=Hxt+Azt+wty_{t}=Hx_{t}+Az_{t}+w_{t} . Los libros de texto enseñan que después de aplicar el filtro de Kalman y conseguir las "previsiones de un solo paso-a x^t|t−1x^t|t−1\hat{x}_{t|t-1} …

11 likelihood  kalman-filter 

No tengo una definición formal de equivalencia de escala, pero esto es lo que dice Introducción al aprendizaje estadístico sobre esto en la pág. 217: Los coeficientes estándar de mínimos cuadrados ... son equivalentes de escala : multiplicar XjXjX_j por una constante ccc simplemente conduce a una escala de las …

11 least-squares  linear-model 

Si tengo dos variables aleatorias independientes X e Y, ¿cuál es la correlación entre X y el producto XY? Si esto se desconoce, me interesaría saber al menos lo que sucede en el caso específico de que X e Y sean normales con media cero, si eso es más fácil …

11 correlation 

La prueba de hipótesis es similar a un problema de clasificación. Entonces, digamos, tenemos 2 posibles etiquetas para una observación (sujeto) - Culpable vs. No culpable. Que no culpable sea la hipótesis nula. Si viéramos el problema desde el punto de vista de la Clasificación, entrenaríamos un Clasificador que predeciría …

11 probability  hypothesis-testing  classification  p-value 

Sé cómo generar una secuencia con media . Por ejemplo, en Matlab, si quiero generar una secuencia de longitud , es:0 ± 1 10000±1±1\pm 1000±1±1\pm 1100001000010000 2*(rand(1, 10000, 1)<=.5)-1 Sin embargo, ¿cómo generar una secuencia con una media de , es decir, con siendo ligeramente preferido?0.05 1±1±1\pm 10.050.050.05111

11 distributions  sampling  random-generation 

Soy un estudiante de física que estudia el aprendizaje automático / ciencia de datos, así que no me refiero a que esta pregunta inicie ningún conflicto :) Sin embargo, una gran parte de cualquier programa de pregrado de física es hacer laboratorios / experimentos, lo que significa una gran cantidad …

11 regression  machine-learning  cross-validation  dataset  experiment-design 

¿Podría la información mutua sobre la entropía conjunta: 0 ≤ I( X, Y)H( X, Y)≤ 10≤I(X,Y)H(X,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 se define como: "¿La probabilidad de transmitir una información de X a Y"? Lamento ser tan ingenuo, pero nunca he estudiado teoría de la información, y estoy tratando de …

11 information-theory  mutual-information 

Pregunta en una oración: ¿Alguien sabe cómo determinar los buenos pesos de clase para un bosque aleatorio? Explicación: estoy jugando con conjuntos de datos desequilibrados. Quiero usar el Rpaquete randomForestpara entrenar un modelo en un conjunto de datos muy sesgado con solo pocos ejemplos positivos y muchos ejemplos negativos. Lo …

11 r  random-forest 

Los grados de libertad en mi tabla F no aumentan lo suficiente para mi gran muestra. Por ejemplo, si tengo una F con 5 y 6744 grados de libertad, ¿cómo encuentro el valor crítico del 5% para un ANOVA? ¿Qué pasa si estaba haciendo una prueba de chi-cuadrado con grandes …

11 chi-squared  degrees-of-freedom  f-distribution  tables 

Netflix solía basar sus sugerencias en las calificaciones enviadas por el usuario de otras películas / programas. Este sistema de calificación tenía cinco estrellas. Ahora, Netflix permite a los usuarios gustar / no me gusta (pulgar hacia arriba / pulgar hacia abajo) películas / espectáculos. Afirman que es más fácil …

11 variance  predictive-models  prediction 

Estoy leyendo las diapositivas de Steven Scott sobre el paquete BSTS R (Puede encontrarlas aquí: diapositivas ). En algún momento, cuando habla de incluir muchos regresores en el modelo de serie de tiempo estructural, introduce los picos y las losas anteriores de los coeficientes de regresión y dice que son …

11 r  bayesian  feature-selection  penalized  bsts 

¿Hay alguna distribución continua expresable en forma cerrada, cuya media es tal que la media geométrica de las muestras es un estimador imparcial para esa media? Actualización: Acabo de darme cuenta de que mis muestras tienen que ser positivas (o de lo contrario la media geométrica puede no existir), por …

11 distributions  geometric-mean 

He realizado una prueba de Kruskal Wallis, y para algunas de las preguntas el valor p no es significativo. ¿Informaría esto de la misma manera que si fuera significativo, indicando el df, el estadístico de prueba y el valor p? Por lo tanto, sería algo así como una prueba de …

11 spss  kruskal-wallis  reporting 

Estoy ejecutando un modelo de regresión con Lasso y Ridge (para predecir una variable de resultado discreta que va de 0 a 5). Antes de ejecutar el modelo, utilizo el SelectKBestmétodo de scikit-learnreducir el conjunto de características de 250 a 25 . Sin una selección inicial de características, tanto Lasso …

11 regression  predictive-models  feature-selection  lasso  ridge-regression