Este es el problema de desviación menos absoluto en cuestión:. Sé que se puede reorganizar como problema de LP de la siguiente manera:$\underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}|$

$\min \sum_{i=1}^{n}u_{i}$

$u_i \geq \textbf{x}^T\textbf{w}- y_{i} \; i = 1,\ldots,n$

$u_i \geq -\left(\textbf{x}^T\textbf{w}-y_{i}\right) \; i = 1,\ldots,n$

Pero no tengo idea de resolverlo paso a paso, ya que soy un novato en LP. ¿Tienes alguna idea? ¡Gracias por adelantado!

EDITAR:

Aquí está la última etapa que he alcanzado en este problema. Estoy tratando de resolver el problema siguiendo esta nota :

Paso 1: formularlo en una forma estándar

$\min Z=\sum_{i=1}^{n}u_{i}$

$\textbf{x}^T\textbf{w} -u_i+s_1=y_{i} \; i = 1,\ldots,n$

$\textbf{x}^T\textbf{w} +u_i+s_2=-y_{i} \; i = 1,\ldots,n$

sujeto a $s_1 \ge 0; s_2\ge 0; u_i \ge 0 \ i=1,...,n$

Paso 2: construya un cuadro inicial

           |      |    0      |    1   |  0  |   0   |   0    
 basic var | coef |  $p_0$    |  $u_i$ |  W  | $s_1$ | $s_2$ 
      $s_1$| 0    |  $y_i$    |   -1   |  x  |   1   |   0
      $s_2 | 0    |  $-y_i$   |    1   |  x  |   0   |   1
      z    |      |    0      |    -1  |  0  |   0   |   0

Paso 3: elija variables básicas

$u_i$ se elige como variable base de entrada. Aquí viene un problema. Al elegir la variable base de salida, es obvio $y_i/-1=-y_i/1=-y_i$ . Según la nota, si $y_i\ge0$ , el problema tiene una solución ilimitada.

Estoy totalmente perdido aquí. Me pregunto si hay algo mal y cómo debo continuar con los siguientes pasos.

Desea un ejemplo para resolver la menor desviación absoluta mediante programación lineal. Le mostraré una implementación simple en R. La regresión cuantil es una generalización de la desviación mínima absoluta, que es el caso del cuantil 0.5, por lo que mostraré una solución para la regresión cuantil. Luego puede verificar los resultados con el quantregpaquete R :

rq_LP  <-  function(x, Y, r=0.5, intercept=TRUE) {
    require("lpSolve")
    if (intercept) X  <-  cbind(1, x) else X <-  cbind(x)
    N   <-  length(Y)
    n  <-  nrow(X)
    stopifnot(n == N)
    p  <-  ncol(X)
    c  <-  c(rep(r, n), rep(1-r, n), rep(0, 2*p))  # cost coefficient vector
    A  <- cbind(diag(n), -diag(n), X, -X)
    res  <-  lp("min", c, A, "=", Y, compute.sens=1)
### Desempaquetar los coefs:
    sol <- res$solution
    coef1  <-  sol[(2*n+1):(2*n+2*p)]
    coef <- numeric(length=p)
    for (i in seq(along=coef)) {
         coef[i] <- (if(coef1[i]<=0)-1 else +1) *  max(coef1[i], coef1[i+p])
    }
    return(coef)
    }

Luego lo usamos en un ejemplo simple:

library(robustbase)
data(starsCYG)
Y  <- starsCYG[, 2]
x  <- starsCYG[, 1]
rq_LP(x, Y)
[1]  8.1492045 -0.6931818

entonces usted mismo puede hacer la verificación quantreg.

La programación lineal se puede generalizar con la optimización convexa, donde además del simplex, hay muchos algoritmos más confiables disponibles.

Le sugiero que consulte el Libro de optimización convexo y la caja de herramientas CVX que proporcionaron. Donde puede formular fácilmente la menor desviación absoluta con la regularización.

https://web.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf

http://cvxr.com/cvx/