Preguntas etiquetadas con random-forest

Estoy tratando de identificar el mejor modelo para predecir los precios de los automóviles, utilizando los precios y las funciones disponibles en los sitios de anuncios clasificados de automóviles. Para esto utilicé un par de modelos de la biblioteca scikit-learn y modelos de redes neuronales de pybrain y neurolab. El …

17 machine-learning  neural-networks  random-forest  r-squared  elastic-net 

Estoy trabajando con muchos algoritmos: RandomForest, DecisionTrees, NaiveBayes, SVM (kernel = linear y rbf), KNN, LDA y XGBoost. Todos ellos fueron bastante rápidos, excepto SVM. Fue entonces cuando llegué a saber que necesita una función de escala para funcionar más rápido. Entonces comencé a preguntarme si debería hacer lo mismo …

17 machine-learning  svm  random-forest  naive-bayes  xgboost 

Una vez que he construido un modelo de bosque aleatorio (regresión) en R, la llamada rf$importanceme proporciona dos medidas para cada variable predictiva, %IncMSEy IncNodePurity. ¿La interpretación de que las variables predictoras con %IncMSEvalores más pequeños es más importante que las variables predictoras con %IncMSEvalores más grandes ? ¿Qué tal …

17 r  feature-selection  random-forest 

Estoy explorando diferentes métodos de clasificación para un proyecto en el que estoy trabajando y estoy interesado en probar Random Forests. Estoy tratando de educarme a medida que avanzo, y agradecería cualquier ayuda brindada por la comunidad de CV. He dividido mis datos en conjuntos de entrenamiento / prueba. De …

17 r  machine-learning  random-forest 

Estoy tratando de entender cómo puedo obtener la importancia de una variable categórica que se ha desglosado en variables ficticias. Estoy usando scikit-learn que no maneja variables categóricas para usted como R o h2o. Si divido una variable categórica en variables ficticias, obtengo características de entidad separadas por clase en …

17 categorical-data  random-forest  interpretation  importance 

Los bosques aleatorios (RF) son un método competitivo de modelado / extracción de datos. Un modelo de RF tiene una salida: la variable de salida / predicción. El enfoque ingenuo para modelar múltiples salidas con RF sería construir un RF para cada variable de salida. Entonces tenemos N modelos independientes, …

17 machine-learning  cart  random-forest  multilabel 

Tengo un conjunto de datos con variables financieras en su mayoría (120 características, ejemplos de 4k) que en su mayoría están altamente correlacionadas y son muy ruidosas (indicadores técnicos, por ejemplo), por lo que me gustaría seleccionar un máximo de 20-30 para su uso posterior con entrenamiento modelo (clasificación binaria …

16 feature-selection  random-forest  python 

¿Puede la máquina de aumento de gradiente de Friedman lograr un mejor rendimiento que el Bosque aleatorio de Breiman ? Si es así, ¿en qué condiciones o qué tipo de conjunto de datos puede mejorar gbm?

16 machine-learning  data-mining  random-forest  boosting 

Entonces, soy un novato en el campo de ML e intento hacer alguna clasificación. Mi objetivo es predecir el resultado de un evento deportivo. He reunido algunos datos históricos y ahora trato de entrenar a un clasificador. Obtuve alrededor de 1200 muestras, 0.2 de ellas las dividí para fines de …

16 classification  svm  feature-selection  random-forest 

Estoy tratando de usar Random Forest para predecir el resultado de un conjunto de datos extremadamente desequilibrado (la tasa de clase minoritaria es de solo 1% o incluso menos). Debido a que el algoritmo tradicional de bosque aleatorio minimiza la tasa de error general, en lugar de prestar especial atención …

16 r  random-forest 

Mis variables de entrada tienen diferentes dimensiones. Algunas variables son decimales, mientras que otras son cientos. ¿Es esencial centrar (restar la media) o escalar (dividir por desviación estándar) estas variables de entrada para que los datos no tengan dimensiones cuando se utiliza un bosque aleatorio?

16 random-forest  standardization  data-preprocessing  centering 

Soy bastante nuevo en los bosques al azar. En el pasado, siempre he comparado la precisión del ajuste contra la prueba contra el ajuste contra el tren para detectar cualquier sobreajuste. Pero acabo de leer aquí que: "En bosques aleatorios, no hay necesidad de validación cruzada o un conjunto de …

15 cross-validation  random-forest  overfitting 

Me gustaría saber si el bosque aleatorio de Breiman (bosque aleatorio en el paquete R randomForest) usa como criterio de división (criterio para la selección de atributos) la ganancia de información o el índice de Gini. Traté de encontrarlo en http://www.stat.berkeley.edu/~breiman/RandomForests/cc_home.htm y en la documentación del paquete randomForest en R. …

15 r  random-forest  entropy  gini 

Estoy trabajando en la medida de importancia de la característica Gini para bosque aleatorio. Por lo tanto, necesito calcular la disminución de Gini en la impureza del nodo. Esta es la forma en que lo hago, lo que conduce a un conflicto con la definición, lo que sugiere que debo …

15 feature-selection  random-forest  cart 

Estoy tratando de usar Regresión forestal aleatoria en scikits-learn. El problema es que recibo un error de prueba muy alto: train MSE, 4.64, test MSE: 252.25. Así es como se ven mis datos: (azul: datos reales, verde: predicho): Estoy usando 90% para entrenamiento y 10% para prueba. Este es el …

15 regression  random-forest  scikit-learn