¿Cómo verificar si mis datos se ajustan a la distribución normal del registro?


11

Me gustaría comprobar Rsi mis datos se ajustan a las distribuciones log-normal o Pareto. ¿Cómo podría hacer eso? Quizás ks.testpodría ayudarme a hacer eso, pero ¿cómo podría obtener los parámetros y para la distribución de Pareto para mis datos?αk


Para la última pregunta, consulte también stats.stackexchange.com/questions/392629/…
kjetil b halvorsen

Respuestas:


6

... Acabo de notar que tienes la etiqueta de 'regresión' allí. Si tiene un problema de regresión, no puede mirar la distribución univariada de la respuesta para evaluar la forma de distribución, ya que depende del patrón de las x. Si está preguntando si una variable de respuesta (y) en algún tipo de regresión o GLM tiene una distribución lognormal o de Pareto donde las medias difieren en la observación, esa es una pregunta muy diferente (pero básicamente se reduce a tipos similares de análisis en los residuos). ¿Puede aclarar si es un problema de regresión? Mi respuesta, en este momento, se relaciona con la evaluación de lognormal univariante o Pareto

Tienes algunas preguntas muy diferentes allí.

¿Cómo verificar si mis datos se ajustan a la distribución normal del registro?

Tome registros y haga un diagrama QQ normal. Mire y vea si la distribución es lo suficientemente cercana para sus propósitos.

Me gustaría verificar en R si mis datos se ajustan a log-normal o distribuciones de Pareto

Acepte desde el principio que ninguna de las distribuciones que considere será una descripción exacta. Estás buscando un modelo razonable. Esto significa que con tamaños de muestra pequeños, no rechazará ninguna opción razonable, pero con un tamaño de muestra suficiente los rechazará a todos. Peor aún, con un tamaño de muestra grande, rechazará modelos perfectamente decentes, mientras que con tamaños de muestra pequeños no rechazará los malos.

Tales pruebas no son realmente una base útil para la selección del modelo.

En resumen, su pregunta de interés, algo así como "¿cuál es un buen modelo para estos datos, uno que sea lo suficientemente cercano como para que la inferencia posterior sea útil?" simplemente no se responde con pruebas de bondad de ajuste. Sin embargo, en algunos casos, las estadísticas de bondad de ajuste (en lugar de las decisiones que surgen de las reglas de rechazo basadas en ellas) pueden en algunos casos proporcionar un resumen útil de tipos particulares de falta de ajuste.

Quizás ks.test podría ayudarme a hacer eso

No. Primero, está el problema que acabo de mencionar, y segundo, una prueba de Kolmogorov-Smirnov es una prueba para una distribución completamente especificada. No tienes uno de esos.

En muchos casos, recomendaría gráficos QQ y pantallas similares. Para casos asimétricos correctos como este, tendería a trabajar con registros (un lognormal se verá normal, mientras que un Pareto se verá exponencial). A tamaños de muestra razonables no es difícil distinguir visualmente si los datos se ven más casi normales que exponenciales o viceversa. Primero, obtenga algunos datos reales de cada uno y grafíquelos, digamos al menos media docena de muestras, para que sepa cómo se ven.

Vea un ejemplo a continuación

¿Cómo podría obtener los parámetros alfa y k para la distribución de Pareto para mis datos?

Si necesita estimar parámetros, use MLE ... pero no haga eso para decidir entre Pareto y lognormal.

¿Puedes decir cuál de estos es lognormal y cuál es Pareto?

ingrese la descripción de la imagen aquí

Tenga en cuenta que con las gráficas QQ normales (columna izquierda) vemos que los registros del conjunto de datos 1 dan una línea bastante recta, mientras que el conjunto de datos 2 muestra la asimetría correcta. Con los gráficos exponenciales, los registros del conjunto de datos 1 muestran una cola derecha más clara que la exponencial, mientras que el conjunto de datos 2 muestra una línea bastante recta (los valores en la cola derecha tienden a moverse un poco incluso cuando el modelo es correcto; esto es no es inusual con colas pesadas; es una de las razones por las que necesita trazar varias muestras de tamaño similar al que está viendo para ver cómo se ven típicamente las tramas)

El código solía hacer esas cuatro parcelas:

qqnorm(log(y1))
qqnorm(log(y2))
qex <- function(x) qexp((rank(x)-.375)/(length(x)+.25))
plot(qex(y1),log(y1))
plot(qex(y2),log(y2))

Si tiene un problema de tipo de regresión, uno en el que las medias cambian con otras variables, en realidad solo puede evaluar la idoneidad de cualquiera de los supuestos de distribución en presencia de un modelo adecuado para la media.


3

Esto es una cuestión de selección de modelo , por supuesto, suponiendo que solo desea verificar si sus datos provienen de un modelo u otro y que su objetivo no es encontrar el modelo correcto entre el océano de distribuciones de dimensiones infinitas. Entonces, una opción es usar AIC (que favorece los modelos con el valor AIC más bajo, y no intentaré describirlo aquí). Eche un vistazo al siguiente ejemplo con datos simulados:

rm(list=ls())

set.seed(123)
x = rlnorm(100,0,1)

hist(x)

# Loglikelihood and AIC for lognormal model

ll1 = function(param){
if(param[2]>0) return(-sum(dlnorm(x,param[1],param[2],log=T)))
else return(Inf)
}

AIC1 = 2*optim(c(0,1),ll1)$value + 2*2

# Loglikelihood and AIC for Pareto model

dpareto=function(x, shape=1, location=1) shape * location^shape / x^(shape + 1)

ll2 = function(param){
if(param[1]>0 & min(x)> param[2]) return(-sum(log(dpareto(x,param[1],param[2]))))
else return(Inf)
}


AIC2 = 2*optim(c(1,0.01),ll2)$value + 2*2

# Comparison using AIC, which in this case favours the lognormal model.

 c(AIC1,AIC2)

1

Tal vez fitdistr ()?

ingrese la descripción de la imagen aquí

require(MASS)
hist(x, freq=F)
fit<-fitdistr(x,"log-normal")$estimate
lines(dlnorm(0:max(x),fit[1],fit[2]), lwd=3)


> fit
meanlog     sdlog 
3.8181643 0.1871289 



> dput(x)
c(52.6866903145324, 39.7511298620398, 50.0577071855833, 33.8671245370402, 
51.6325665911116, 41.1745418750494, 48.4259060939127, 67.0893697776377, 
35.5355051232044, 44.6197404834786, 40.5620805256951, 39.4265590077884, 
36.0718655240496, 56.0205581625823, 52.8039852992611, 46.2069383488226, 
36.7324212941395, 44.7998046213554, 47.9727885542368, 36.3400338997286, 
32.7514839453244, 50.6878893947656, 53.3756089181472, 39.4769689441593, 
38.5432770167907, 62.350999487007, 44.5140171935881, 47.4026606915147, 
57.3723511479393, 64.4041641945078, 51.2286815562554, 60.4921839777139, 
71.6127652225805, 40.6395409719693, 48.681036613906, 52.3489622656967, 
46.6219563536878, 55.6136160469819, 62.3003761050482, 42.7865905767138, 
50.2413659137295, 45.6327941365187, 46.5621907725798, 48.9734785224035, 
40.4828649022511, 59.4982559591637, 42.9450436744074, 66.8393386407167, 
40.7248473206552, 45.9114242834839, 34.2671010054407, 45.7569869970351, 
50.4358523486278, 44.7445606782492, 44.4173298921541, 41.7506552050873, 
34.5657344132409, 47.7099864540652, 38.1680974794929, 42.2126680994737, 
35.690599714042, 37.6748157160789, 35.0840798650981, 41.4775827114607, 
36.6503753230464, 42.7539062488003, 39.2210050689652, 45.9364763482558, 
35.3687017955285, 62.8299659875044, 38.1532612008011, 39.9183076516292, 
59.0662388169057, 47.9032427690417, 42.4419580084314, 45.785859495192, 
59.5254284342724, 47.9161476636566, 32.6868959277799, 30.1039453246766, 
37.7606323857655, 35.754797368422, 35.5239777126187, 43.7874313667592, 
53.0328404605954, 37.4550326357314, 42.7226751172495, 44.898430515261, 
59.7229655935187, 41.0701258705001, 42.1672231656919, 60.9632847841197, 
60.3690132883734, 45.6469334940722, 39.8300067022836, 51.8185235060234, 
44.908828102875, 50.8200011497451, 53.7945569828737, 65.0432670527801, 
49.0306734716282, 35.9442821219144, 46.8133296904456, 43.7514416949611, 
43.7348972849838, 57.592040060118, 48.7913517211383, 38.5555058596449
)

1
Aunque esta solución se ajusta de forma lognormal a los datos, no indica si el ajuste es bueno o si un Pareto es una mejor opción.
whuber
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.