Preguntas etiquetadas con random-forest

Estoy usando la función randomForesten el randomForestpaquete de R para hacer una regresión. Sin embargo, cuando intento incluir un término de interacción en los siguientes códigos: library(MASS) library(randomForest) Boston_f <- within(Boston, factor(rad)) mdl <- randomForest(lstat ~ rad * . , data = Boston_f) El resultado mdl$termincluye interacción, pero si me …

9 r  interaction  random-forest 

Me sorprende que no pueda encontrar ningún artículo / conferencia sobre cómo uno puede incorporar Distribuciones de probabilidad de clase previa en clasificadores como Regresión logística o Bosque aleatorio. Entonces mi pregunta es: ¿Cómo se puede incorporar la distribución de probabilidad de clase previa en la regresión logística o los …

9 logistic  bayesian  random-forest  prior 

Basado en Gradient Boosting Tree vs Random Forest . GBDT y RF utilizando diferentes estrategias para abordar el sesgo y la varianza. Mi pregunta es: ¿puedo volver a muestrear el conjunto de datos (con reemplazo) para entrenar múltiples GBDT y combinar sus predicciones como resultado final? Es equivalente a construir …

8 random-forest  cart  boosting  bagging  gradient 

Tengo un conjunto de datos con 5.818.446 líneas y 51 columnas, de las cuales 50 son predictores. Mi respuesta es cuantitativa, así que estoy interesado en un modelo de regresión. Estoy tratando de ajustar un bosque aleatorio a mis datos usando el paquete caret. Sin embargo, no tengo suficiente RAM …

8 r  random-forest  large-data 

En todos los documentos forestales aleatorios (de regresión) que he leído, cuando llega el momento de reunir las predicciones de todos los árboles, tomamos el valor promedio como la predicción. Mi pregunta es ¿por qué hacemos eso? ¿Existe una justificación estadística para tomar el promedio? EDITAR: Para aclarar la pregunta, …

8 regression  random-forest  ensemble 

Tengo un conjunto de datos x, y que estoy usando para construir un bosque aleatorio. Los datos x son un vector de valores que incluye algunos NA. Así que solía rfImputemanejar los datos faltantes y crear un bosque aleatorio. Ahora tengo una nueva observación invisible x (con un NA) y …

8 r  random-forest  missing-data 

He leído esta declaración muchas veces, pero nunca he encontrado una prueba. Me gustaría intentar producir uno yo mismo, pero ni siquiera estoy seguro de qué notación usar. Puede alguien ayudarme con esto?

8 mathematical-statistics  random-forest  unbiased-estimator  proof 

Esta pregunta ya tiene respuestas aquí : ¿Es mi modelo bueno, basado en el valor de la métrica de diagnóstico ( / AUC / precision / RMSE, etc.)? R2R2R^2 (3 respuestas) Cerrado hace 8 meses . Tengo datos de aprendizaje que consisten en ~ 45k muestras, cada una tiene 21 …

8 classification  random-forest  out-of-sample 

Soy un poco novato en R y en la selección de funciones, y he probado el paquete Boruta para seleccionar (disminuir) mi número de variables (n = 40). Pensé que este método también tenía en cuenta la posible correlación entre las variables, sin embargo, dos (de las 20 variables seleccionadas) …

8 r  feature-selection  random-forest  boruta 

Tengo un conjunto de datos que es estrictamente binario. El conjunto de valores de cada variable está en el dominio: verdadero, falso. La propiedad "especial" de este conjunto de datos es que una abrumadora mayoría de los valores son "falsos". Ya he usado un algoritmo de aprendizaje de red bayesiano …

8 machine-learning  classification  svm  random-forest  bayesian-network 

Tengo 5 variables para cada país del mundo y necesito analizar sus efectos e interacciones en una variable independiente. Random Forest sería adecuado para mi alcance ya que trata con relaciones no lineales y predice la importancia de las variables. Sin embargo, me pregunto si la dependencia espacial puede ser …

8 random-forest  spatial  independence 

Entiendo cómo se elige la mejor división para bosque aleatorio para predictores numéricos (características). Los predictores numéricos se ordenan para cada valor, se calcula la impureza o entropía de Gini y se elige un umbral que proporciona la mejor división. Pero, ¿cómo se elige la mejor división para el predictor …

8 machine-learning  random-forest 

Estoy trabajando con el código forestal aleatorio de Breiman ( http://stat-www.berkeley.edu/users/breiman/RandomForests/cc_manual.htm#c2 ) para la clasificación de datos satelitales (aprendizaje supervisado). Estoy usando un conjunto de datos de entrenamiento y prueba que tiene un tamaño de muestra de 2000 y un tamaño variable 10. Los datos se clasifican en dos clases, …

8 machine-learning  classification  random-forest 

He leído las siguientes publicaciones que respondieron a la pregunta que iba a hacer: Utilice el modelo de bosque aleatorio para hacer predicciones a partir de datos del sensor Árbol de decisión para la predicción de salida Esto es lo que he hecho hasta ahora: comparé la regresión logística con …

8 random-forest  prediction 

Tengo dos preguntas sobre el uso de bosque aleatorio (específicamente randomForest en R) para la imputación de valor faltante (en el espacio del predictor). 1) ¿Cómo funciona el algoritmo de imputación, específicamente cómo y por qué se requiere la etiqueta de clase para la imputación? ¿Es la matriz de proximidad …

8 data-mining  predictive-models  missing-data  random-forest  data-imputation