Estadísticas y Big Data

Encontré una prueba para una de las propiedades del modelo ARCH que dice que si , entonces es estacionario iff donde el modelo ARCH es:{ X t } ∑ p i = 1 b i &lt; 1E(X2t)&lt;∞E(Xt2)&lt;∞\mathbb{E}(X_t^2) < \infty{Xt}{Xt}\{X_t\}∑pi=1bi&lt;1∑i=1pbi&lt;1\sum_{i=1}^pb_i < 1 Xt=σtϵtXt=σtϵtX_t = \sigma_t\epsilon_t σ2t=b0+b1X2t−1+...bpX2t−pσt2=b0+b1Xt−12+...bpXt−p2\sigma_t^2 = b_0 + b_1X_{t-1}^2 + …

13 mathematical-statistics  stationarity  garch 

Una norma es única (al menos en parte) porque está en el límite entre no convexo y convexo. Una norma es la norma convexa 'más escasa' (¿verdad?).L1L1L_1p=1p=1p=1L1L1L_1 Entiendo que la norma euclidiana tiene raíces en la geometría y tiene una interpretación clara cuando las dimensiones tienen las mismas unidades. Pero …

13 regression  regularization  sparse 

Digamos que tenemos un problema de clasificación binaria con características principalmente categóricas. Utilizamos algún modelo no lineal (por ejemplo, XGBoost o Random Forests) para aprenderlo. ¿Debería preocuparse por la multicolinealidad? ¿Por qué? Si la respuesta a lo anterior es verdadera, ¿cómo debería uno luchar contra ella teniendo en cuenta que …

13 classification  random-forest  multicollinearity  xgboost 

Tengo datos sin procesar que tienen alrededor de 20 columnas (20 características). Diez de ellos son datos continuos y 10 de ellos son categóricos. Algunos de los datos categóricos pueden tener como 50 valores diferentes (Estados de EE. UU.). Después de preprocesar los datos, las 10 columnas continuas se convierten …

13 machine-learning  neural-networks  tensorflow  data-preprocessing  theano 

En el documento de 2015 de DeepMind sobre el aprendizaje de refuerzo profundo, afirma que "Los intentos anteriores de combinar RL con redes neuronales habían fracasado en gran medida debido al aprendizaje inestable". Luego, el documento enumera algunas causas de esto, en función de las correlaciones entre las observaciones. ¿Podría …

13 machine-learning  neural-networks  deep-learning  reinforcement-learning 

Sé que en la regresión lineal la variable de respuesta debe ser continua, pero ¿por qué es así? Parece que no puedo encontrar nada en línea que explique por qué no puedo usar datos discretos para la variable de respuesta.

13 regression  linear 

Como estoy seguro de que todos aquí ya lo saben, el PDF de la distribución Beta está dado porX∼ B ( a , b )X∼si(un,si)X \sim B(a,b) F( x ) = 1B ( a , b )Xa - 1( 1 - x )b - 1F(X)=1si(un,si)Xun-1(1-X)si-1f(x) = \frac{1}{B(a,b)}x^{a-1}(1-x)^{b-1} He estado buscando …

13 probability  mathematical-statistics  pdf  beta-distribution  history 

Por lo que entiendo, la selección de variables basada en valores p (al menos en el contexto de regresión) es altamente defectuosa. Parece que la selección variable basada en AIC (o similar) también se considera defectuosa por algunos, por razones similares, aunque esto parece un poco confuso (por ejemplo, vea …

13 hypothesis-testing  multiple-regression  feature-selection  model-selection  aic 

Estoy buscando una referencia donde se pruebe que la media armónica x¯h=n∑ni=11xix¯h=n∑i=1n1xi\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}} minimiza (en ) la suma de los errores relativos al cuadradozzz ∑i=1n((xi−z)2xi).∑i=1n((xi−z)2xi).\sum_{i=1}^n \left( \frac{(x_i - z)^2}{x_i}\right).

13 references  mean  error  weighted-regression  harmonic-mean 

Estoy construyendo modelos ARIMA para algunos datos de viento / olas. Estoy construyendo un modelo separado para cada variable. Dos de las variables que necesito modelar son la dirección de las olas y el viento. Los valores están en grados (0-360 °). ¿Es posible modelar este tipo de datos donde …

13 time-series  arima  circular-statistics 

Poco fondo Estoy trabajando en la interpretación del análisis de regresión, pero estoy realmente confundido sobre el significado de r, r cuadrado y desviación estándar residual. Sé las definiciones: Caracterizaciones r mide la fuerza y ​​la dirección de una relación lineal entre dos variables en un diagrama de dispersión R-cuadrado …

13 r  regression  regression-coefficients  linear  pearson-r 

Estoy obteniendo algunos resultados desconcertantes para la correlación de una suma con una tercera variable cuando los dos predictores están correlacionados negativamente. ¿Qué está causando estos resultados desconcertantes? Ejemplo 1: correlación entre la suma de dos variables y una tercera variable Considere la fórmula 16.23 en la página 427 del …

13 correlation  multiple-regression 

Objetivo Confirme si la comprensión de KKT es correcta o no. Busque más explicaciones y confirmaciones sobre KKT. Antecedentes Tratando de entender las condiciones de KKT, especialmente la complementaria, que siempre aparece de la nada en los artículos SVM. No necesito una lista de fórmulas abstractas, pero sí una explicación …

13 svm  optimization  lagrange-multipliers 

En un problema específico con el que trabajo (una competencia) tengo la siguiente configuración: 21 características (numéricas en [0,1]) y una salida binaria. Tengo aproximadamente 100 K filas. El escenario parece ser muy ruidoso. Yo y otros participantes aplicamos la generación de características por un tiempo y la inserción de …

13 machine-learning  dimensionality-reduction  unsupervised-learning  tsne 

\newcommand{\diag}{\operatorname{diag}}Tenemos el problema: suponiendo que: \ sum_ {i = 1} ^ nx_ix_i ^ T = \ diag (\ sigma_1 ^ 2, ..., \ sigma_d ^ 2).minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),\min_{w\in\mathbb{R}^{d}}\left( \frac{1}{n}\sum_{i=1}^{n} \left( \langle w,x_{i}\rangle-y_{i} \right)^{2} +2\lambda||w||_1\right),∑i=1nxixTi=diag(σ21,...,σ2d).∑i=1nxixiT=diag⁡(σ12,...,σd2).\sum_{i=1}^nx_ix_i^T=\diag(\sigma_1^2,...,\sigma_d^2). ¿Existe una solución de forma cerrada en este caso? Tengo eso: (XTX)−1=diag(σ−21,...,σ−2d),(XTX)−1=diag⁡(σ1−2,...,σd−2),(X^TX)^{-1}=\diag\left(\sigma_1^{-2},...,\sigma_d^{-2}\right), y creo que la respuesta es …

13 mathematical-statistics  lasso  computational-statistics  regularization