Preguntas etiquetadas con randomized-algorithms

Estoy tratando de entrenar un modelo de aumento de gradiente en más de 50k ejemplos con 100 características numéricas. XGBClassifiermaneja 500 árboles en 43 segundos en mi máquina, mientras que GradientBoostingClassifiermaneja solo 10 árboles (!) en 1 minuto y 2 segundos :( No me molesté en tratar de cultivar 500 …

29 scikit-learn  xgboost  gbm  data-mining  classification  data-cleaning  machine-learning  reinforcement-learning  data-mining  bigdata  dataset  nlp  language-model  stanford-nlp  machine-learning  neural-network  deep-learning  randomized-algorithms  machine-learning  beginner  career  xgboost  loss-function  neural-network  software-recommendation  naive-bayes-classifier  classification  scikit-learn  feature-selection  r  random-forest  cross-validation  data-mining  python  scikit-learn  random-forest  churn  python  clustering  k-means  machine-learning  nlp  sentiment-analysis  machine-learning  programming  python  scikit-learn  nltk  gensim  visualization  data  csv  neural-network  deep-learning  descriptive-statistics  machine-learning  supervised-learning  text-mining  orange  data  parameter-estimation  python  pandas  scraping  r  clustering  k-means  unsupervised-learning 

Leo esto: Para entrenar nuestra red neuronal, inicializaremos cada parámetro W (l) ijWij (l) y cada b (l) ibi (l) a un pequeño valor aleatorio cercano a cero (digamos de acuerdo con Normal (0, ϵ2) Normal (0 , ϵ2) distribución para algunos pequeños ϵϵ, digamos 0.01) de los tutoriales de …

13 deep-learning  stanford-nlp  randomized-algorithms 

Dada una tarea de aprendizaje difícil (por ejemplo, alta dimensionalidad, complejidad de datos inherente), las redes neuronales profundas se vuelven difíciles de entrenar. Para aliviar muchos de los problemas, uno podría: Normalizar && datos de calidad de selección manual elija un algoritmo de entrenamiento diferente (por ejemplo, RMSprop en lugar …

10 machine-learning  neural-network  deep-learning  randomized-algorithms 

Aquí encontrará una descripción general del proceso de optimización de hiperparámetros en scikit-learn . La búsqueda exhaustiva de la cuadrícula encontrará el conjunto óptimo de hiperparámetros para un modelo. La desventaja es que la búsqueda exhaustiva en la red es lenta. La búsqueda aleatoria es más rápida que la búsqueda …

10 scikit-learn  hyperparameter  hyperparameter-tuning  grid-search  randomized-algorithms