Estimador de máxima verosimilitud del parámetro de ubicación de la distribución de Cauchy

He llegado hasta

$$\frac{d\ln L}{d\mu}=\sum_{i=1}^n \frac{2(x_i-u)}{1+(x_i-u)^2}$$

Donde es el parámetro de ubicación. Y es función de probabilidad. No entiendo cómo proceder. Por favor ayuda.$u$$L$

Ok, digamos que el pdf para el cauchy es:

$f(x;\theta)=\frac{1}{\pi}\frac{1}{1+(x-\theta)^2}$ aquí es mediana, no significa ya que para Cauchy la media no está definida.$\theta$

$$L(\theta;x)=\frac{1}{\pi}\frac{1}{1+(x_1-\theta)^2}\frac{1}{\pi}\frac{1}{1+(x_2-\theta)^2}\cdots\frac{1}{\pi}\frac{1}{1+(x_n-\theta)^2}\\=\frac{1}{\pi^n} \frac{1}{\prod[1+(x_i-\theta)^2]}$$

$$\ell(\theta;x)=-n\log\pi-\sum_{i=1}^n\log[1+(x_i-\theta)^2]$$

$$\frac{d\ell(\theta;x)}{d\theta}=\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2}$$

Esto es exactamente lo que tienes, excepto que aquí es mediana, no mala. Supongo que mediana en tu fórmula.$\theta$$u$

Siguiente paso, para encontrar mle necesitamos establecer$\frac{d\ell(\theta;x)}{d\theta} = \sum_{i=1}^n \frac{2(x_i-\theta)}{1+(x_i-\theta)^2}=0$

Ahora es su variable, y son valores conocidos, debe resolver la ecuación$\theta$$x_is$$\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2}=0$

es decir, para resolver . Parece que resolver esta ecuación será muy difícil. Por lo tanto, necesitamos el método de Newton-Raphson.$\frac{2(x_1-\theta)}{1+(x_1-\theta)^2}+\frac{2(x_2-\theta)}{1+(x_2-\theta)^2}+\cdots+\frac{2(x_n-\theta)}{1+(x_n-\theta)^2}=0$

Creo que muchos libros de cálculo hablan sobre el método

La fórmula para el método de Newton-Raphson puede escribirse como

$$\hat{\theta^1}=\hat{\theta^0}-\frac{\ell'(\hat{\theta^0})}{\ell''(\hat{\theta^0})} \tag 1$$

$\hat{\theta^0}$ es su conjetura inicial de$\theta$

$\ell'$ es la primera derivada de la función de probabilidad logarítmica.

$\ell''$ es la segunda derivada de la función de probabilidad de registro.

Desde puede obtener luego coloca en luego obtiene y lo coloca en para obtener ... continúe estas iteraciones hasta que no haya grandes cambios entre y$\hat{\theta^0}$$\hat{\theta^1}$$\hat{\theta^1}$$(1)$$\hat{\theta^2}$$(1)$$\hat{\theta^3}$$\hat{\theta^n}$$\hat{\theta^{n-1}}$

Los siguientes son la función R que escribí para obtener mle para la distribución de Cauchy.

mlecauchy=function(x,toler=.001){      #x is a vector here
startvalue=median(x)
n=length(x);
thetahatcurr=startvalue;
# Compute first deriviative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
# Continue Newton’s method until the first derivative
# of the likelihood is within toler of 0.001
while(abs(firstderivll)>toler){
# Compute second derivative of log likelihood
 secondderivll=2*sum(((x-thetahatcurr)^2-1)/(1+(x-thetahatcurr)^2)^2);
# Newton’s method update of estimate of theta
thetahatnew=thetahatcurr-firstderivll/secondderivll;
thetahatcurr=thetahatnew;
# Compute first derivative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
}
list(thetahat=thetahatcurr);
}

Ahora suponga que sus datos son$x_1=1.94,x_2=0.59,x_3=-5.98,x_4=-0.08,x_5-0.77$

x<-c(-1.94,0.59,-5.98,-0.08,-0.77)
mlecauchy(x,0.0001)

Resultado:

#$thetahat
#[1] -0.5343968

También podemos usar la función R build in para obtener mle.

optimize(function(theta) -sum(dcauchy(x, location=theta, log=TRUE)),  c(-100,100)) 

#we use negative sign here

Resultados:

#$minimum
#[1] -0.5343902

El resultado es casi el mismo que el de los códigos caseros.

---

Ok, como lo requirió, déjenos hacerlo a mano.

Primero obtenemos una conjetura inicial que será la mediana de los datos$-5.98, -1.94, -0.77, -0.08, 0.59$

La mediana es$-0.77$

A continuación, ya sabemos que$l'(\theta)=\frac{dl(\theta;x)}{d\theta}=\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2}$

y

$$l''(\theta)=\frac{dl^2(\theta;x)}{d(\theta}=\frac{d(\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2})}{d\theta}=2\sum_{i=1}^n\frac{(x_i-\theta)^2-1}{[1+(x_i-\theta)^2]^2}$$

Ahora conectamos es decir, la mediana de y$\hat{\theta^0}$$l'(\theta)$$l''(\theta)$

es decir, reemplazar con es decir, mediana es$\theta$$\hat{\theta^0}$$-0.77$

$$\begin{align} \ell'(\theta) = {} & \sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2} \\[10pt] = {} &\frac{2[-5.98-(-0.77)]}{1+[(-5.98-(-0.77)^2]} + \frac{2[-1.94-(-0.77)]}{1+[(-1.94-(-0.77)^2]} + \frac{2[-0.77-(-0.77)]}{1+[(-0.77-(-0.77)^2]} \\[6pt] & {} +\frac{2[-0.08-(-0.77)]}{1+[(-0.08-(-0.77)^2]} +\frac{2[0.59-(-0.77)]}{1+[(0.59-(-0.77)^2]}\\[10pt] = {} & \text{??} \end{align}$$

Luego, conecte a y para obtener luego puede obtener$x_1$$x_5$$-0.77$$\ell''(\theta)$$\hat{\theta^1}$

Ok, tengo que parar aquí, es demasiado problemático calcular estos valores a mano.