Estadísticas y Big Data

En R, hay tres métodos para formatear los datos de entrada para una regresión logística usando la glmfunción: Los datos pueden estar en formato "binario" para cada observación (por ejemplo, y = 0 o 1 para cada observación); Los datos pueden estar en el formato "Wilkinson-Rogers" (por ejemplo, y = …

13 r  logistic  generalized-linear-model 

Tengo un conocimiento básico de cómo funcionan los RNN (y, en particular, con las unidades LSTM). Tengo una idea pictórica de la arquitectura de una unidad LSTM, que es una celda y algunas puertas, que regulan el flujo de valores. Sin embargo, al parecer, no he entendido completamente cómo LSTM …

13 neural-networks  lstm  rnn  backpropagation 

Digamos que nuestro conjunto de datos contiene 1 millón de ejemplos, es decir, , y deseamos utilizar el descenso de gradiente para realizar una regresión logística o lineal en este conjunto de datos.X1, ... , x106 6x1,…,x106x_1, \ldots, x_{10^6} ¿Qué pasa con el método de descenso de gradiente que lo …

13 machine-learning  gradient-descent  large-data 

Aprendizaje de estadísticas bayesianas por primera vez; Como un ángulo para comprender MCMC, me preguntaba: ¿está haciendo algo que fundamentalmente no se puede hacer de otra manera, o simplemente está haciendo algo mucho más eficiente que las alternativas? A modo de ilustración, supongamos que estamos tratando de calcular la probabilidad …

13 bayesian  mcmc 

No estoy seguro si este es el sitio de pila correcto, pero aquí va. ¿Cómo funciona el método .similiarity? Wow SpaCy es genial! ¡Su modelo tfidf podría ser más fácil, pero w2v con solo una línea de código ?! En su tutorial de 10 líneas sobre spaCy andrazhribernik nos muestra …

13 natural-language  word2vec  tf-idf  nltk 

Voy a seguir el curso DeepAI de Cousera (video 1 de la Semana 3 "Visión general de las redes neuronales") y Andrew Ng explica cómo cada capa en una red neuronal es solo otra regresión logística, pero no explica cómo hace que las cosas sean más precisas. Entonces, en una …

13 logistic  neural-networks 

El clasificador Naive Bayes es el clasificador que asigna elementos a una clase función de la maximización de la posterior para la pertenencia a clases, y supone que las características de los elementos son independientes.C P ( C | x )xxxCCCP(C|x)P(C|x)P(C|x) La pérdida 0-1 es la pérdida que asigna a …

13 machine-learning  bayesian  optimization  naive-bayes  loss-functions 

Recientemente leí un artículo de Yann Dauphin et al. Identificando y atacando el problema del punto de silla de montar en la optimización no convexa de alta dimensión , donde introducen un interesante algoritmo de descenso llamado Saddle-Free Newton , que parece estar adaptado exactamente para la optimización de la …

13 optimization  deep-learning  gradient-descent 

En Econometría en su mayoría inofensiva: un compañero empirista (Angrist y Pischke, 2009: página 209) leí lo siguiente: (...) De hecho, el 2SLS recién identificado (digamos, el estimador simple de Wald) es aproximadamente imparcial . Esto es difícil de mostrar formalmente porque 2SLS recién identificado no tiene momentos (es decir, …

13 regression  self-study  multiple-regression  econometrics  instrumental-variables 

La regresión gradual se había usado en exceso en muchos artículos biomédicos en el pasado, pero esto parece estar mejorando con una mejor educación de sus muchos problemas. Sin embargo, muchos críticos más antiguos todavía lo piden. ¿Cuáles son las circunstancias en las que la regresión gradual tiene un papel …

13 regression  multiple-regression  feature-selection  model-selection  stepwise-regression 

Premisa: esta puede ser una pregunta estúpida. Solo conozco las afirmaciones sobre las propiedades asintóticas de MLE, pero nunca estudié las pruebas. Si lo hiciera, tal vez no estaría haciendo estas preguntas, o tal vez me daría cuenta de que estas preguntas no tienen sentido ... así que por favor, …

13 maximum-likelihood  model  asymptotics 

Quiero calcular el AICc de un modelo de regresión de cresta. El problema es el número de parámetros. Para la regresión lineal, la mayoría de las personas sugiere que el número de parámetros es igual al número de coeficientes estimados más sigma (la varianza del error). Cuando se trata de …

13 regression  aic  ridge-regression  degrees-of-freedom 

Estoy tratando de calcular el intervalo creíble del 95% de la siguiente distribución posterior. No pude encontrar la función en R para ello, pero ¿es correcto el siguiente enfoque? x <- seq(0.4,12,0.4) px <- c(0,0, 0, 0, 0, 0, 0.0002, 0.0037, 0.018, 0.06, 0.22 ,0.43, 0.64,0.7579, 0.7870, 0.72, 0.555, 0.37, …

13 bayesian  descriptive-statistics  credible-interval 

Tenemos dos modelos que usan el mismo método para calcular la probabilidad de registro y el AIC para uno es más bajo que el otro. Sin embargo, el que tiene el AIC más bajo es mucho más difícil de interpretar. Tenemos problemas para decidir si vale la pena introducir la …

13 model-selection  aic 

Las funciones empíricas de CDF generalmente se estiman mediante una función de paso. ¿Hay alguna razón por la cual esto se hace de tal manera y no mediante el uso de una interpolación lineal? ¿La función de paso tiene propiedades teóricas interesantes que nos hacen preferirla? Aquí hay un ejemplo …

13 r  distributions  ecdf