Preguntas etiquetadas con regression

Actualmente estoy aprendiendo regresión de cresta y estaba un poco confundido acerca de la penalización de modelos más complejos (o la definición de un modelo más complejo). Por lo que entiendo, la complejidad del modelo no se correlaciona necesariamente con el orden polinómico. Entonces: es un modelo más complejo que:2+3+4x2+5x3+6x42+3+4x2+5x3+6x4 …

9 regression  regularization  hyperparameter 

En los documentos de aprendizaje de scikit sobre calibración de probabilidad, comparan la regresión logística con otros métodos y observan que el bosque aleatorio está menos calibrado que la regresión logística. ¿Por qué la regresión logística está bien calibrada? ¿Cómo podría uno arruinar la calibración de una regresión logística (no …

9 regression  logistic  calibration 

Con la regresión OLS aplicada a la respuesta continua, se puede construir la ecuación de regresión múltiple ejecutando secuencialmente regresiones de los residuos en cada covariable. Mi pregunta es, ¿hay alguna manera de hacer esto con la regresión logística a través de los residuos de regresión logística ? Es decir, …

9 regression  logistic  residuals 

Estoy estudiando la diferencia entre la regularización en la regresión RKHS y la regresión lineal, pero me resulta difícil comprender la diferencia crucial entre los dos. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} donde, con algún abuso de notación, la entrada i,ji,ji,j de la matriz del núcleo …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

En 'Los elementos del aprendizaje estadístico', la expresión para la descomposición de la variación de sesgo del modelo lineal se da como donde es la función objetivo real, es la varianza del error aleatorio en el modelo y es el estimador lineal de .f ( x 0 ) σ 2 …

9 regression  linear-model  bias-variance-tradeoff 

Me gustaría clasificar los puntos de datos como que necesitan un modelo más complejo o que no necesitan un modelo más complejo. Mi pensamiento actual es ajustar todos los datos a un modelo lineal simple y observar el tamaño de los residuos para hacer esta clasificación. Luego leí un poco …

9 regression  multiple-regression  residuals  bias-variance-tradeoff 

Considere la siguiente gráfica en la que simulé datos de la siguiente manera. Observamos un resultado binario para el cual la probabilidad real de ser 1 se indica mediante la línea negra. La relación funcional entre una covariable y es un polinomio de tercer orden con enlace logístico (por lo …

9 regression  logistic  bayesian  confidence-interval  credible-interval 

Ejemplos: Tengo una oración en la descripción del trabajo: "Ingeniero senior de Java en el Reino Unido". Quiero usar un modelo de aprendizaje profundo para predecirlo en 2 categorías: English y IT jobs. Si uso el modelo de clasificación tradicional, solo puede predecir 1 etiqueta con softmaxfunción en la última …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

Actualmente estoy trabajando en una forma de transformar dos valores de prueba de fósforo diferentes entre sí. Antecedentes Existen muchos métodos (de extracción) para medir el fósforo disponible de la planta en el suelo. Diferentes países aplican diferentes métodos, por lo tanto, para comparar la fertilidad P entre países, es …

9 regression  total-least-squares 

Supongamos que tengo un montón de ciudades con diferentes tamaños de población, y quiero ver si hay una relación lineal positiva entre el número de tiendas de licores en una ciudad y el número de DUI. Donde estoy determinando si esta relación es significativa o no basada en una prueba …

9 regression  multicollinearity 

¿Cómo interpreta una curva de supervivencia del modelo de riesgo proporcional de Cox? En este ejemplo de juguete, supongamos que tenemos un modelo de riesgo proporcional de Cox ageen kidneydatos variables y generamos la curva de supervivencia. library(survival) fit <- coxph(Surv(time, status)~age, data=kidney) plot(conf.int="none", survfit(fit)) grid() Por ejemplo, en el …

9 r  survival  cox-model  likelihood  machine-learning  deep-learning  generative-models  machine-learning  reinforcement-learning  q-learning  regression  multicollinearity  convergence  beta-distribution  bernoulli-distribution  machine-learning  self-study  pattern-recognition  neural-networks  stochastic-processes  linear 

Después de mi corta experiencia en estadística, parece que el tipo de sumas de cuadrados (tipo I, II, III, IV ...) utilizados para obtener resultados ANOVA podría marcar una diferencia dramática en los resultados de las pruebas (especialmente de modelos con interacciones y faltantes) datos). Sin embargo, aún no he …

9 regression  anova  manova  reporting  sums-of-squares 

Esta publicación se refiere a un modelo de regresión lineal bivariado, . Siempre he tomado la división de la suma total de cuadrados (SSTO) en la suma de cuadrados por error (SSE) y la suma de cuadrados para el modelo (SSR) por fe, pero una vez que comencé a pensar …

9 regression  sums-of-squares  orthogonal 

Hastie y Tibshirani mencionan en la sección 4.3.2 de su libro que en la configuración de regresión lineal, el enfoque de mínimos cuadrados es, de hecho, un caso especial de máxima verosimilitud. ¿Cómo podemos probar este resultado? PD: no ahorres detalles matemáticos.

9 regression  maximum-likelihood  least-squares 

y=β0+β1x1+ε0y=β0+β1x1+ε0y = \beta_{0} + \beta_{1}x_{1} + \varepsilon_{0} El lenguaje para describir modelos de regresión, como la regresión lineal muy simple especificada anteriormente, a menudo varía y estas variaciones a menudo conllevan cambios sutiles en los significados. Por ejemplo, la parte del modelo en el lado izquierdo de la ecuación puede …

9 regression  terminology