Estadísticas y Big Data

Supongamos que estoy haciendo regresión con entrenamiento, validación y conjuntos de pruebas. Puedo encontrar RMSE y R al cuadrado (R ^ 2, el coeficiente de determinación) de la salida de mi software (como la función Rm lm ()). Entiendo que la prueba RMSE (o MSE) es la medida de la …

11 r  regression  regression-coefficients  r-squared 

Tengo una pregunta general. Recientemente, acabo de aprender Basis Expansion and Regularization. Existen varias técnicas interesantes que incluyen: spline cúbico, spline natural, b-spline y spline de suavizado . La pregunta es, ¿cuáles son los pros y los contras (si hay alguno) de la spline de suavizado en comparación con la …

11 regression  smoothing 

Actualmente me encuentro con algunos problemas al analizar un conjunto de datos de tweets con máquinas de vectores de soporte. El problema es que tengo un conjunto de entrenamiento de clase binaria desequilibrado (5: 2); que se espera que sea proporcional a la distribución de clase real. Al predecir, obtengo …

11 machine-learning  classification  svm  unbalanced-classes  precision-recall 

Estoy trabajando con datos desequilibrados, donde hay alrededor de 40 casos de clase = 0 para cada clase = 1. Puedo discriminar razonablemente entre las clases usando características individuales, y entrenar a un ingenuo clasificador Bayes y SVM en 6 características y datos balanceados arrojaron una mejor discriminación (curvas ROC …

11 classification  svm  roc  naive-bayes  precision-recall 

Me he encontrado con un problema en el libro de texto para estimar la media. El problema del libro de texto es el siguiente: Supongamos que puntos de datos, , ,. . . , , han sido generados por un pdf gaussiano unidimensional de media desconocida, pero de varianza conocida. …

11 self-study  normal-distribution  maximum-likelihood 

Matemáticamente, a menudo se ve que las expresiones y algoritmos para la Maximización de Expectativas (EM) son a menudo más simples para modelos mixtos, sin embargo, parece que casi todo (si no todo) que se puede resolver con EM también se puede resolver con MLE (por, digamos, el método de …

11 mixed-model  maximum-likelihood  expectation-maximization 

He encontrado muchas publicaciones útiles sobre variables independientes estandarizadas y variables independientes centradas en stats.stackexchange.com, pero todavía estoy un poco confundido. Le pido una evaluación de lo que he entendido. Además, si lo que sigue no es correcto, ¿podría corregirme? Cómo estandarizar Las variables estandarizadas se obtienen restando la media …

11 regression  data-transformation  interpretation  standardization  centering 

Digamos que se han ejecutado cadenas MCMC paralelas donde cada cadena ha tenido quemado. Deje que las cadenas resultantes se denoten por donde es la longitud de cada cadena después de quemadommmx(i)1,…,x(i)N for i=1,…,m,x1(i),…,xN(i) for i=1,…,m, x_1^{(i)},\dots,x_N^{(i)} \quad \text{ for } i=1,\dots,m,NNN Si uno quisiera combinar estas cadenas en una …

11 mcmc  parallel-computing 

Si he calculado la media para 4 conjuntos de datos (que tienen diferentes tamaños de muestra), ¿puedo obtener una "media general" calculando la "media de las medias"? En caso afirmativo, ¿será esta "media de las medias" la misma que si hubiera combinado los datos de los 4 conjuntos y luego …

11 mathematical-statistics  weighted-mean  mean 

Estoy usando el caretpaquete Rpara entrenar clasificadores binarios SVM. Para la reducción de funciones, estoy preprocesando con PCA usando la función incorporada preProc=c("pca")cuando llamo train(). Aquí están mis preguntas: ¿Cómo selecciona caret los componentes principales? ¿Hay un número fijo de componentes principales que se selecciona? ¿Los componentes principales se seleccionan …

11 r  machine-learning  pca  cross-validation  caret 

Estoy tratando de entender algunas descripciones de PCA (las dos primeras son de Wikipedia), énfasis agregado: Se garantiza que los componentes principales serán independientes solo si el conjunto de datos se distribuye normalmente de manera conjunta . ¿Es muy importante la independencia de los componentes principales? ¿Cómo puedo entender esta …

11 pca  dimensionality-reduction 

Estoy tratando de implementar y aprender un Proceso de Dirichlet para agrupar mis datos (o como la gente de aprendizaje automático habla, estimar la densidad). Leí mucho papel sobre el tema y de alguna manera tuve la idea. Pero todavía estoy confundido; aquí hay una serie de preguntas, 1) ¿Cuál …

11 machine-learning  clustering  dirichlet-process 

Soy relativamente nuevo en R, y estoy tratando de ajustar un modelo a los datos que consisten en una columna categórica y una columna numérica (entera). La variable dependiente es un número continuo. Los datos tienen el siguiente formato: predCateg, predIntNum, ResponseVar Los datos se parecen a esto: ranking, age_in_years, …

11 r  generalized-linear-model 

Estoy buscando generar 450 puntos de datos en R. Hay tres conjuntos distintos 150 de cada uno distribuidos en una banda circular con diferentes radios (en 1, 2.8 y 5). En particular, estoy buscando reproducir el primer gráfico en p546 de Los elementos del aprendizaje estadístico. Estaría muy agradecido por …

11 r  self-study  random-generation 

Propiedad de invariancia de MLE: si es el MLE de , entonces, para cualquier función , el MLE de es . θ^θ^\hat{\theta}θθ\thetaF( θ )f(θ)f(\theta)f(θ)f(θ)f(\theta)f(θ^)f(θ^)f(\hat{\theta}) Además, debe ser una función uno a uno.fff El libro dice: "Por ejemplo, para estimar , el cuadrado de una media normal, el mapeo no es …

11 maximum-likelihood  point-estimation