Estadísticas y Big Data

Sé la definición de matriz simétrica positiva definida (SPD), pero quiero entender más. ¿Por qué son tan importantes, intuitivamente? Aquí está lo que sé. ¿Qué más? Para un dato dado, la matriz de covarianza es SPD. La matriz de covarianza es una métrica importante; consulte esta excelente publicación para obtener …

20 mathematical-statistics  optimization  covariance-matrix  intuition  linear-algebra 

Me sorprendió un poco la primera vez que hice una simulación de Monte Carlo de distribución normal y descubrí que la media de 100100100 desviaciones estándar de 100100100 muestras, todas con un tamaño de muestra de solo n=2n=2n=2 , resultó ser mucho menor que, es decir, promediando 2π−−√2π \sqrt{\frac{2}{\pi }} …

20 normal-distribution  standard-deviation  expected-value  unbiased-estimator  umvue 

Todos estamos familiarizados con la idea, bien documentada en la literatura, de que la optimización de LASSO (en aras de la simplicidad limita aquí la atención al caso de la regresión lineal) es equivalente al modelo lineal con errores gaussianos en el que los parámetros reciben la Laplace anterior \ …

20 lasso  laplace-distribution 

No puedo ser específico sobre la naturaleza de los datos, ya que son propietarios, pero supongamos que tenemos datos como este: cada mes, algunas personas se suscriben a un servicio. Luego, en cada mes posterior, esas personas pueden actualizar el servicio, descontinuar el servicio o se les puede negar el …

20 panel-data  splines  mars 

No entiendo exactamente qué se entiende por tamaño de nodo. Sé qué es un nodo de decisión, pero no qué tamaño de nodo es.

20 machine-learning  random-forest  bagging 

Estoy tomando el curso de Andrew Ng sobre Machine Learning a través de Coursera . Para las ecuaciones, se utilizan superíndices en lugar de subíndices. Por ejemplo, en la siguiente ecuación se usa x(i)x(i)x^{(i)} lugar de xixix_i : J(θ0,θ1)=12m∑i=1m(hθ(x(i))−y(i))2J(θ0,θ1)=12m∑i=1m(hθ(x(i))−y(i))2J(\theta_0, \theta_1) = \frac{1}{2m} \sum\limits_{i=1}^{m}{(h_\theta(x^{(i)}) - y^{(i)})^2} Aparentemente, esta es una práctica …

20 machine-learning  notation 

Lei de allí que el error estándar de la varianza de la muestra es Smis2= 2 σ4 4norte- 1------√Smis2=2σ4 4norte-1SE_{s^2} = \sqrt{\frac{2 \sigma^4}{N-1}} ¿Cuál es el error estándar de la desviación estándar de la muestra? Estaría tentado a adivinar y decir que pero no estoy seguro.Smis= Smis2----√Smis=Smis2SE_{s} = \sqrt{SE_{s^2}}

20 sampling  standard-deviation  standard-error 

Ver esta pregunta en Math SE . Historia corta: leí Los elementos del aprendizaje estadístico y me sentí frustrado cuando estaba tratando de verificar algunos de los resultados, por ejemplo, dado luego RSS(β)=(y−Xβ)T(y−Xβ),RSS(β)=(y−Xβ)T(y−Xβ),\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,} Estoy buscando un libro de cálculo matricial que esté escrito como su libro de cálculo …

20 references  matrix  matrix-calculus 

He estado viendo muchos videos tutoriales y tienen el mismo aspecto. Este, por ejemplo: https://www.youtube.com/watch?v=ip4iSMRW5X4 Explican estados, acciones y probabilidades que están bien. La persona lo explica bien, pero parece que no puedo entender para qué se usaría en la vida real. Todavía no he encontrado ninguna lista. El más …

20 markov-process 

La paradoja de Stein muestra que cuando se estiman tres o más parámetros simultáneamente, existen estimadores combinados más precisos en promedio (es decir, que tienen un error cuadrático medio menor esperado) que cualquier método que maneje los parámetros por separado. Este es un resultado muy contraintuitivo. ¿Se el mismo resultado …

20 paradox  steins-phenomenon 

Tengo una pregunta con respecto a la necesidad de utilizar métodos de selección de características (los bosques aleatorios tienen un valor de importancia de características o métodos de selección de características univariadas, etc.) antes de ejecutar un algoritmo de aprendizaje estadístico. Sabemos que para evitar el sobreajuste podemos introducir una …

20 regression  machine-learning  feature-selection  lasso  regularization 

Existen muchas técnicas en estadísticas ecológicas para el análisis exploratorio de datos de datos multidimensionales. Estas se llaman técnicas de 'ordenación'. Muchos son iguales o están estrechamente relacionados con técnicas comunes en otras partes de las estadísticas. Quizás el ejemplo prototípico sería el análisis de componentes principales (PCA). Los ecologistas …

20 pca  eda  ecology  correspondence-analysis 

Tengo una red neuronal configurada para predecir algo donde la variable de salida es ordinal. Describiré a continuación usando tres salidas posibles A <B <C. Es bastante obvio cómo usar una red neuronal para generar datos categóricos: la salida es solo un softmax de la última capa (generalmente completamente conectada), …

20 neural-networks  ordinal-data  softmax 

Sé que realizar el ajuste de hiperparámetros fuera de la validación cruzada puede conducir a estimaciones sesgadas de validez externa, porque el conjunto de datos que usa para medir el rendimiento es el mismo que usó para ajustar las características. Lo que me pregunto es qué tan grave es este …

20 cross-validation  validation  hyperparameter 

¿Por qué en "Método de momentos", equiparamos los momentos de muestra con los momentos de población para encontrar el estimador puntual? ¿Dónde está la lógica detrás de esto?

20 intuition  method-of-moments