Preguntas etiquetadas con regression

El documento original de red elástica Zou & Hastie (2005) La regularización y la selección de variables a través de la red elástica introdujeron la función de pérdida neta elástica para la regresión lineal (aquí supongo que todas las variables están centradas y escaladas a la varianza unitaria): pero lo …

27 regression  regularization  glmnet  elastic-net  shrinkage 

Cuando uso GAM, me da un DF residual de 26.626.626.6 (última línea en el código). Qué significa eso? Yendo más allá del ejemplo de GAM, en general, ¿puede el número de grados de libertad ser un número no entero? > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation 

Estaba leyendo el siguiente enlace sobre regresión no lineal SAS no lineal . Mi comprensión al leer la primera sección "Regresión no lineal versus regresión lineal" fue que la siguiente ecuación es en realidad una regresión lineal, ¿es eso correcto? Si es así, ¿por qué? y= b1X3+ b2X2+ b3x + …

27 regression  multiple-regression  nonlinear-regression  multicollinearity 

Quizás esta pregunta sea ingenua, pero: Si la regresión lineal está estrechamente relacionada con el coeficiente de correlación de Pearson, ¿hay alguna técnica de regresión estrechamente relacionada con los coeficientes de correlación de Kendall y Spearman?

27 regression  correlation  pearson-r  spearman-rho  kendall-tau 

Reflexiono sobre la discusión en torno a esta pregunta y, en particular, sobre el comentario de Frank Harrell de que la estimación de la varianza en un modelo reducido (es decir, uno a partir del cual se probaron y rechazaron varias variables explicativas) debería usar los grados de libertad generalizados …

27 r  regression  model-selection  regression-strategies 

Esta pregunta se migró de Mathematics Stack Exchange porque se puede responder en Cross Validated. Migrado hace 8 años . Cuando realizo una regresión lineal en algunos paquetes de software (por ejemplo, Mathematica), obtengo valores p asociados con los parámetros individuales del modelo. Por, ejemplo, los resultados de una regresión …

27 probability  regression 

Todas mis variables son continuas. No hay niveles ¿Es posible incluso tener interacción entre las variables?

27 regression  modeling  interaction 

He leído en varias referencias que la estimación de Lasso para el vector de parámetro de regresión es equivalente al modo posterior de en el que la distribución previa para cada es una distribución exponencial doble (también conocida como distribución de Laplace).BBBB iBBBBiBiB_i He estado tratando de probar esto, ¿alguien …

27 regression  bayesian  lasso  prior  regularization 

Estoy tratando de resolver la tarea de regresión. Descubrí que 3 modelos funcionan bien para diferentes subconjuntos de datos: LassoLARS, SVR y Gradient Tree Boosting. Me di cuenta de que cuando hago predicciones usando todos estos 3 modelos y luego hago una tabla de 'salida real' y salidas de mis …

27 regression  scikit-learn  ensemble 

Completé el curso de Aprendizaje automático de Andrew Ng hace aproximadamente un año, y ahora estoy escribiendo mi exploración de matemáticas en la escuela secundaria sobre el funcionamiento de la regresión logística y las técnicas para optimizar el rendimiento. Una de estas técnicas es, por supuesto, la regularización. El objetivo …

27 regression  machine-learning  optimization  regularization  overfitting 

Estoy tratando de entender un documento sobre el pronóstico de la carga eléctrica, pero estoy luchando con los conceptos internos, especialmente el modelo SARIMAX . Este modelo se usa para predecir la carga y utiliza muchos conceptos estadísticos que no entiendo (soy un estudiante universitario de ciencias de la computación; …

27 regression  time-series  arima  autoregressive  intuition 

Digamos que queremos hacer una regresión simple f = x * yusando una red neuronal profunda estándar. Recuerdo que hay investigaciones que indican que NN con una capa oculta puede aproximarse a cualquier función, pero he intentado y sin normalización, NN no pudo aproximar ni siquiera esta simple multiplicación. Solo …

27 regression  machine-learning  neural-networks  deep-learning 

Una vez escuché un método de usar el lazo dos veces (como un lazo doble) en el que realizas un lazo en el conjunto original de variables, por ejemplo, S1, obtienes un conjunto disperso llamado S2 y luego vuelves a realizar el lazo en el conjunto S2 para obtener el …

26 regression  lasso  regularization  shrinkage  lars 

¿Cuál es la distribución del coeficiente de determinación, o R al cuadrado, , en regresión múltiple univariada lineal bajo la hipótesis nula ?R 2 H 0 : β = 0R2R^2H0:β=0H_0:\beta=0 ¿Cómo depende de la cantidad de predictores y la cantidad de muestras ? ¿Existe una expresión de forma cerrada para …

26 regression  mathematical-statistics  r-squared  intuition 

Estoy tratando de realizar una regresión múltiple en R. Sin embargo, mi variable dependiente tiene la siguiente gráfica: Aquí hay una matriz de diagrama de dispersión con todas mis variables ( WARes la variable dependiente): Sé que necesito realizar una transformación en esta variable (¿y posiblemente las variables independientes?) Pero …

26 r  regression  multiple-regression  data-transformation