Confusión sobre el problema de detección comprimido

Leí algunas referencias que incluyen esto .

Estoy un poco confundido sobre qué problema de optimización comprime las compilaciones de detección e intenta resolver. Lo es

o y

o / y algo más?

Brian es perfecto. Pero creo que es útil agregar un contexto de detección comprimido.

Primero, tenga en cuenta que la llamada norma 0 —la función de cardinalidad, o el número de valores distintos de cero en x— no es una norma . Probablemente sea mejor escribirlo como algo así como la tarjeta ( x ) en cualquier cosa que no sean los contextos más casuales. No me malinterpretes, estás en buena compañía cuando usas ‖ x $\|x\|_0$$x$$\mathop{\textbf{card}}(x)$taquigrafía 0 , pero creo que tiende a generar confusión.$\|x\|_0$

Las personas han sabido durante mucho tiempo que minimizar la norma ‖ x ‖ 1 tiende a producir soluciones dispersas. Hay algunas razones teóricas para esto que tienen que ver con la complementariedad lineal. Pero lo más interesante no fue que las soluciones fueran escasas, sino que a menudo eran las más escasas posibles . Es decir, minimizar ‖ x ‖ 1 realmente le brinda la solución de cardinalidad mínima en ciertos casos útiles. (¿Cómo resolvieron esto, cuando el problema de cardinalidad mínima es NP-duro? Al construir problemas artificiales con soluciones dispersas conocidas). Esto no era algo que la teoría de la complementariedad lineal pudiera predecir.$\ell_1$$\|x\|_1$$\|x\|_1$

El campo de la detección comprimida nació cuando los investigadores comenzaron a identificar condiciones en la matriz que les permitirían garantizar de antemano que la solución ℓ 1 también era la más escasa. Véanse, por ejemplo, los primeros documentos de Candés, Romberg y Tao , y otras discusiones sobre la propiedad de isometría restringida, o RIP . Otro sitio web útil si realmente quiere sumergirse en alguna teoría es la página de sensores comprimidos de Terence Tao .$A$$\ell_1$

Nos encantaría poder resolver

$\min \| x \|_{0}$

S t

$Ax=b$

pero este problema es un problema de optimización combinatoria NP-Hard que no es práctico resolver en la práctica cuando , y son de tamaños típicos en la detección de compresión. Es posible resolver eficientemente$A$$x$$b$

$\min \| x \|_{1}$

S t

$Ax=b$

tanto en teoría (se puede hacer en tiempo polinómico) como en la práctica computacional incluso para problemas bastante grandes que surgen en la detección de compresión. Usamos como un "sustituto" para el . Esto tiene una justificación intuitiva (la minimización de una norma prefiere soluciones con menos entradas distintas de cero en ), así como justificaciones teóricas mucho más sofisticadas (teoremas de la forma "Si tiene una solución k-dispersa y minimiza encontrará esa solución con alta probabilidad ". $\| x \|_{1}$$\| x \|_{0}$$x$$Ax=b$$\| x \|_{1}$

En la práctica, dado que los datos son a menudo ruidosos, la restricción exacta menudo se reemplaza por una restricción de la forma . $Ax=b$$\| Ax - b \|_{2} \leq \delta$

También es bastante común trabajar con una forma variada del problema restringido, donde, por ejemplo, podríamos minimizar .$\min \| Ax - b\|_{2}^{2} + \lambda \| x \|_{1}$

No tengo nada que agregar a la explicación de Brians y Michaels sobre vs. ℓ 0 . Pero dado que la pregunta parece ser sobre la detección comprimida, me gustaría agregar mi punto de vista: la detección comprimida no se trata de resolver min ‖ x ‖ $\ell^1$$\ell^0$ nisobre min ‖ x ‖

Es posible identificar señales dispersas de algunas mediciones.

La detección comprimida se trata realmente de tomar tan pocas mediciones posible para identificar una señal en una determinada clase de señales.

Una frase pegadiza es:

¿Por qué su cámara de 5 megapíxeles realmente mide 15 millones de valores (tres por cada píxel) que le cuestan 15 megabytes de datos cuando solo almacena unos 2 megabytes (después de la compresión)?
¿Sería posible medir los 2 megabytes de inmediato?

Hay marcos muy diferentes posibles:

• medidas lineales
• los no lineales (por ejemplo, los "sin fase")
• datos vectoriales, datos de matriz / tensor
• dispersión como solo el número de ceros
• dispersión como "bajo rango" o incluso "baja complejidad").

Y también hay más métodos para calcular soluciones dispersas, como búsquedas de correspondencia (variantes como búsqueda de correspondencia ortogonal (OMP), búsqueda de correspondencia ortogonal regularizada (ROMP), CoSaMP) o los métodos más recientes basados ​​en el paso de mensajes algoritmos de .

$\ell^1$$\ell^0$ minimización de , se pierde mucha flexibilidad cuando se trata de problemas prácticos de adquisición de datos.

Sin embargo, si uno solo está interesado en obtener soluciones dispersas para sistemas lineales, uno hace algo que yo llamaría reconstrucción dispersa .