Estadísticas y Big Data

Sé que el descenso de gradiente estocástico tiene un comportamiento aleatorio, pero no sé por qué. ¿Hay alguna explicación sobre esto?

19 machine-learning  random-variable  gradient-descent 

He leído el artículo de Alexandru Niculescu-Mizil y Rich Caruana " Obtención de probabilidades calibradas del aumento " y la discusión en este hilo. Sin embargo, todavía tengo problemas para comprender e implementar la logística o el escalado de Platt para calibrar la salida de mi clasificador de refuerzo de …

19 machine-learning  boosting 

¿Hay alguna diferencia entre 'transferencia de aprendizaje' y 'adaptación de dominio'? No sé sobre el contexto, pero entiendo que tenemos un conjunto de datos 1 y lo entrenamos, después de lo cual tenemos otro conjunto de datos 2 para el que queremos adaptar nuestro modelo sin volver a entrenar desde …

19 deep-learning  terminology  conv-neural-network  transfer-learning  domain-adaptation 

Suponga que tiene una sola sección transversal de datos donde los individuos se encuentran dentro de los grupos (por ejemplo, estudiantes dentro de las escuelas) y desea estimar un modelo del formulario Y_i = a + B*X_idonde Xes un vector de características de nivel individual ya una constante. En este …

19 econometrics  multilevel-analysis  fixed-effects-model  endogeneity  clustered-standard-errors 

¿Cuál es la definición de "espacio de características"? Por ejemplo, al leer sobre SVM, leí sobre "mapeo al espacio de características". Cuando leí sobre CART, leí sobre "particionamiento en espacio de características". Entiendo lo que está sucediendo, especialmente para CART, pero creo que hay alguna definición que me he perdido. …

19 machine-learning  svm  feature-selection  cart  feature-construction 

La pregunta puede sonar un poco extraña porque soy nuevo en la inferencia estadística y las redes neuronales. Cuando en problemas de clasificación usando redes neuronales decimos que queremos aprender una función que mapea el espacio de las entradas , al espacio de las salidas :f∗f∗f^*xxxyyy f∗(x;θ)=yf∗(x;θ)=yf^*(x; \theta) = y …

19 machine-learning  neural-networks 

SARSA y Q Learning son algoritmos de aprendizaje de refuerzo que funcionan de manera similar. La diferencia más notable es que SARSA está en la política, mientras que Q Learning está fuera de la política. Las reglas de actualización son las siguientes: Q Aprendizaje: Q(st,at)←Q(st,at)+α[rt+1+γmaxa′Q(st+1,a′)−Q(st,at)]Q(st,at)←Q(st,at)+α[rt+1+γmaxa′Q(st+1,a′)−Q(st,at)]Q(s_t,a_t)←Q(s_t,a_t)+α[r_{t+1}+γ\max_{a'}Q(s_{t+1},a')−Q(s_t,a_t)] SARSA: Q(st,at)←Q(st,at)+α[rt+1+γQ(st+1,at+1)−Q(st,at)]Q(st,at)←Q(st,at)+α[rt+1+γQ(st+1,at+1)−Q(st,at)]Q(s_t,a_t)←Q(s_t,a_t)+α[r_{t+1}+γQ(s_{t+1},a_{t+1})−Q(s_t,a_t)] donde st,atst,ats_t,\,a_t y …

19 reinforcement-learning 

Estoy tratando de entender cómo la regresión logística utiliza la distribución binomial. Digamos que estoy estudiando el éxito del nido en las aves. La probabilidad de que un nido sea exitoso es 0.6. Usando la distribución binomial, puedo calcular la probabilidad de r éxitos dados n ensayos (número de nidos …

19 logistic  binomial 

Estaba revisando los documentos de convolución de Keras y he encontrado dos tipos de convulsiones Conv1D y Conv2D. Hice una búsqueda en la web y esto es lo que entiendo sobre Conv1D y Conv2D; Conv1D se usa para secuencias y Conv2D usa para imágenes. Siempre pensé que las redes de …

19 machine-learning  neural-networks  conv-neural-network  keras 

He estado buscando métodos de aprendizaje semi-supervisados ​​y he encontrado el concepto de "pseudo-etiquetado". Según tengo entendido, con pseudo-etiquetado tiene un conjunto de datos etiquetados, así como un conjunto de datos sin etiquetar. Primero entrena un modelo solo con los datos etiquetados. Luego usa esos datos iniciales para clasificar (adjuntar …

19 machine-learning  semi-supervised 

Los bosques al azar se utilizan para la regresión. Sin embargo, por lo que entiendo, asignan un valor objetivo promedio en cada hoja. Dado que solo hay hojas limitadas en cada árbol, solo hay valores específicos que el objetivo puede alcanzar de nuestro modelo de regresión. Entonces, ¿no es solo …

18 regression  random-forest  cart 

¿Existe una definición matemática o algorítmica de sobreajuste? Las definiciones que se proporcionan a menudo son el gráfico clásico de puntos en 2-D con una línea que pasa por cada punto y la curva de pérdida de validación que sube repentinamente. ¿Pero hay una definición matemáticamente rigurosa?

18 mathematical-statistics  optimization  overfitting 

Estoy tratando de entender qué es la cadena de Markov Monte Carlo (MCMC) de la página de Wikipedia en francés. Dicen "que los métodos de Monte Carlo de la cadena de Markov consisten en generar un vector solo a partir de los datos del vector lo tanto, es un proceso" …

18 mcmc 

Los métodos de selección de variables algorítmicas escalonadas tienden a seleccionar modelos que sesgan más o menos todas las estimaciones en los modelos de regresión ( ββ\beta y sus SE, valores p , estadísticas F , etc.), y tienen la misma probabilidad de excluir predictores verdaderos como incluir predictores falsos …

18 regression  feature-selection  lasso  regression-strategies  stepwise-regression 

Cuando fue la palabra "sesgo" acuñado a media E[θ^−θ]E[θ^−θ]\mathbb{E}[\hat{\theta}-\theta] ? La razón por la que estoy pensando en esto ahora es porque parece recordar a Jaynes, en su texto de Teoría de la probabilidad , criticando el uso de la palabra "sesgo" utilizado para describir esta fórmula y sugiriendo una …

18 terminology  bias  history