Estadísticas y Big Data

Comprendo lo que es un estimador y una estimación: Estimador: una regla para calcular una estimación Estimación: el valor calculado a partir de un conjunto de datos basado en el estimador Entre estos dos términos, si me piden que señale la variable aleatoria, diría que la estimación es la variable …

10 mathematical-statistics  inference  random-variable  estimators 

La enseñanza estándar dice que la sensibilidad y la especificidad son propiedades de la prueba y son independientes de la prevalencia. ¿Pero no es esto solo una suposición? Los principios de la medicina interna de Harrison 19ª ed dice Durante mucho tiempo se ha afirmado que la sensibilidad y la …

10 bayesian  epidemiology  diagnostic  sensitivity-specificity 

No tengo un ejemplo o tarea específica en mente. Soy nuevo en el uso de b-splines y quería entender mejor esta función en el contexto de regresión. Supongamos que queremos evaluar la relación entre la variable de respuesta y algunos predictores . Los predictores incluyen algunas variables numéricas y algunas …

10 regression  multiple-regression  splines  polynomial  penalized 

Estoy interesado en el estado actual de la técnica para seleccionar semillas iniciales (centros de agrupación) para K-means. Buscar en Google lleva a dos opciones populares: selección aleatoria de semillas iniciales, y utilizando la técnica de selección KMeans ++: Arthur & Vassilvitskii 2006 k-means ++: Las ventajas de la siembra …

10 clustering  k-means 

Esto se cita muy a menudo cuando se menciona la maldición de la dimensionalidad y va (fórmula de la derecha llamada contraste relativo) limre→ ∞var ( | | XreEl | El |kmi[ | El | XreEl | El |k]) =0,entonces: Dmaxkre- Dminkrereminkre→ 0limre→∞var(El |El |XreEl |El |kmi[El |El |XreEl |El …

10 machine-learning  distance-functions  high-dimensional 

El teorema de Pitman-Koopman-Darmois dice que si una muestra iid de una familia parametrizada de distribuciones de probabilidad admite una estadística suficiente cuyo número de componentes escalares no crece con el tamaño de la muestra, entonces es una familia exponencial. ¿Algún libro de texto o documentos expositivos elementales dan pruebas? …

10 mathematical-statistics  references 

Una simplificación frecuente en el modelado y la simulación es reemplazar una variable aleatoria por su valor medio. ¿Cuándo conduciría esta simplificación a la conclusión incorrecta?

10 modeling  mean  random-variable 

La siguiente es una pregunta sobre las muchas visualizaciones ofrecidas como 'prueba por imagen' de la existencia de la paradoja de Simpson, y posiblemente una pregunta sobre la terminología. La paradoja de Simpson es un fenómeno bastante simple para describir y dar ejemplos numéricos de (la razón por la que …

10 mathematical-statistics  data-visualization  causality  contingency-tables  simpsons-paradox 

Estoy trabajando en el documento Cho 2014 que introdujo la arquitectura codificador-decodificador para el modelado seq2seq. En el documento, parecen usar la probabilidad de la entrada dada de salida (o es la probabilidad de registro negativa) como la función de pérdida para una entrada de longitud M y salida y …

10 deep-learning  loss-functions  rnn 

¿Cuál es el nombre del operador que toma un vector categórico y lo transforma en la representación binaria usando una codificación de un punto? Me pregunto ya que estoy escribiendo un artículo científico y necesito un nombre propio para eso.

10 terminology  categorical-encoding 

Deje ser variables aleatorias normales estándar independientes. Hay muchas pruebas (largas) que muestran queZ1, ⋯ , ZnorteZ1,⋯,ZnZ_1,\cdots,Z_n ∑i = 1norte( Zyo- 1norte∑j = 1norteZj)2∼ χ2n−1∑i=1n(Zi−1n∑j=1nZj)2∼χn−12 \sum_{i=1}^n \left(Z_i - \frac{1}{n}\sum_{j=1}^n Z_j \right)^2 \sim \chi^2_{n-1} Muchas pruebas son bastante largas y algunas usan inducción (por ejemplo, inferencia estadística de Casella). Me pregunto …

10 mathematical-statistics  sampling 

Supongamos que tenemos 3 variables aleatorias , y conocemos la distribución marginal por pares , pero no sabemos nada más (como como independencia condicional). ¿Podemos obtener la distribución conjunta ?X1,X2,X3X1,X2,X3X_1,X_2,X_3P(X1,X2),P(X2,X3),P(X3,X1)P(X1,X2),P(X2,X3),P(X3,X1)P(X_1,X_2), P(X_2,X_3), P(X_3,X_1)P(X1,X2,X3)P(X1,X2,X3)P(X_1,X_2,X_3)

10 probability  distributions 

En varias respuestas, he visto que los usuarios de CrossValidated sugieren que OP encuentre documentos iniciales sobre Lasso, Ridge y Elastic Net. Para la posteridad, ¿cuáles son los trabajos fundamentales en Lasso, Ridge y Elastic Net?

10 references  lasso  regularization  ridge-regression  elastic-net 

Si tengo un diseño de matriz , donde n es el número de observaciones de dimensión d , lo que es la complejidad de la solución para β = argmin β 1X∈ Rn × dX∈Rnorte×reX\in\mathcal{R}^{n\times d}nortenortenreredcon LASSO, wrtny? Creo que la respuesta debería referirse a cómounaiteración de LASSO se escala …

10 optimization  lasso  regularization  time-complexity 

Estaba experimentando con la relación entre los errores y los residuos usando algunas simulaciones simples en R. Una cosa que he encontrado es que, independientemente del tamaño de la muestra o la varianza del error, siempre obtengo exactamente para la pendiente cuando se ajusta al modelo111 e r r o …

10 regression  least-squares  residuals