Estoy interesado en una buena referencia para resultados relacionados con propiedades asintóticas de estimadores de máxima verosimilitud. Considere un modelo donde es una densidad -dimensional, y es el MLE basado en una muestra de donde es el valor "verdadero" de . Hay dos irregularidades que me interesan.f n ( x | θ ) n θ n X 1 , ... , X n f n ( ⋅ | θ 0θ 0 θ
- Los datos no son iid y, como resultado, la información de Fisher sobre acumula a una velocidad menor que . θ n
- es un conjunto acotado, y con probabilidad positiva encuentra en el límite. El límite corresponde a un modelo "más simple", por lo que hay un interés particular en si encuentra o no en el límite.θ 0
Mis preguntas particulares son
Dejar que denote la información de Fisher observada correspondiente a , y supongamos que encuentra en el interior de . ¿En qué condiciones es asintóticamente normal como ? En particular, ¿son las condiciones de regularidad similares a las habituales, siendo la modificación relevante en algún sentido?θ θ 0 Θ [ J n ( θ n ) ] 1 / 2 ( θ n - θ 0 ) n → ∞ J n (
Supongamos, en cambio, que está en el límite, y nuevamente recuerde que sucede con probabilidad positiva - para concreción, en un modelo de efectos mixtos podemos tener . ¿En qué condiciones (casi seguro o con probabilidad) y bajo qué condiciones finalmente (esto probablemente falla para el modelo de efectos mixtos, pero corresponde a las propiedades "oracle" para el LASSO y los estimadores relacionados, entonces quizás sea demasiado pedir resultados generales)θ n = θ 0 Y i j = μ + β i + ε i j σ 2 β = 0 θ n → θ 0 θ n = θ 0
Una vez más, un simple puntero a un texto con resultados en este nivel de generalidad sería muy apreciado.