¿Por qué el “lazo relajado” es diferente del lazo estándar?

Si comenzamos con un conjunto de datos , le aplicamos Lasso y obtenemos una solución β L , podemos volver a aplicar Lasso al conjunto de datos ( X S , Y ) , donde S es el conjunto de valores distintos de cero. índices de β L , para obtener una solución, β R L , llamada solución 'LASSO relajada' (¡corríjame si me equivoco!). La solución β L debe satisfacer las condiciones de Karush – Kuhn – Tucker (KKT) para ( X , Y $(X,Y)$$\beta^L$$(X_S, Y)$$S$$\beta^L$$\beta^{RL}$$\beta^L$$(X,Y)$pero, dada la forma de las condiciones KKT para , ¿no las satisface también? Si es así, ¿qué sentido tiene hacer LASSO por segunda vez?$(X_S, Y)$

Esta pregunta es un seguimiento de: ¿ Ventajas de hacer "doble lazo" o realizar el lazo dos veces?

De la definición 1 de Meinshausen (2007) , hay dos parámetros que controlan la solución del lazo relajado.

$\lambda$$\phi$$\phi= 1$$\phi<1$

Esta formulación en realidad corresponde a resolver dos problemas:

1. $\lambda$
2. $X_S$, cual es $X$ reducido a variables seleccionadas por 1, con un parámetro de penalización $\lambda\phi$.