Condiciones para que el estimador M converja a la media real

10

Dada muestras iid de una distribución gaussiana y el estimador M, , ¿qué propiedades de son suficientes para garantizar la probabilidad de ? ¿ es estrictamente convexo y estrictamente creciente? $X_1,...,X_n \sim N(\mu,\sigma)$ $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ $\rho$ $\mu_m \rightarrow \mu$ $\rho$

estimation

— Oruga
fuente

Dado que puede tomar

ρ (x) = x

$\rho(x) = x$ y luego

μ_{m}

$\mu_m$ es la media de la muestra, eso significa que incluso podría no ser estrictamente convexo, sino estrictamente creciente sí, por lo tanto ... Yo pondría estrictamente convexo o estrictamente creciente, ambos parecen para ser suficiente, aunque todavía tengo que demostrar esto. La convexidad estrictamente intuitiva garantiza un mínimo global único, para aumentar estrictamente es la suposición de gaussianity lo que importa.

— Dmitrij Celov

1

$\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ $g$

Supongamos que tenemos

$Y,Y_{1},Y_{2},\ldots$ $F$
$\theta_{0}=\theta(F)\in\cal{R}^{p}$
$\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ $g(y,t)$ $t$
Tenemos una "expansión débil" de en alrededor de : para una con media cero bajo y para una matriz positiva definida . $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ como . $t\to0$
$D(Y)$ tiene una matriz de covarianza finita . $K=\int D(y)D(y)^{T}\, dF(y)$

ENTONCES cualquier estimador es -consistente para , y asintóticamente normal con $\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidR
fuente

0

Esto no será una respuesta, ya que reducirá su problema a otro, pero creo que podría ser útil. Su pregunta es básicamente sobre la consistencia de M-estimator. Entonces, primero podemos ver los resultados generales. Aquí está el resultado del libro de van der Vaart (teorema 5.7, página 45):

Teorema Deje que sean funciones aleatorias y que sea una función fija de modo que para cada $M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

Entonces, cualquier secuencia de estimadores con converge en probabilidad a $\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

En su caso , y $\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

La condición clave aquí es la convergencia uniforme. En la página 46, van der Vaart dice

que para promedios, que es su caso, esta condición es equivalente al conjunto de funciones ( en su caso) siendo Glivenko -Canteli . Un conjunto simple de condiciones suficientes es que sea compacto, que las funciones sean continuas para cada , y que> estén dominadas por una función integrable. $\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

En Wooldridge, este resultado se formula como un teorema llamado Ley uniforme débil de grandes números, página 347 (primera edición), teorema 12.1. Solo agrega requisitos de mensurabilidad a lo que dice van der Vaart.

En su caso, puede elegir de forma segura para , por lo que debe mostrar que existe la función tal que $\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

para todos , de modo que . La teoría de la función convexa podría ser útil aquí, ya que básicamente puede tomar $\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

Si esta función tiene buenas propiedades, entonces está listo para comenzar.

— mpiktas
fuente