Estudios sistemáticos de suma de polinomios cuadráticos al cuadrado

Me pregunto si existen estudios sistemáticos de sumas de formas cuadráticas al cuadrado, similares a las formas cuadráticas, que se refleja prácticamente en la descomposición del valor propio (que tiene una gran implicación práctica). Par de ejemplos relacionados con la importancia de la pregunta.

1. Análisis de componentes principales (PCA) . Dado un conjunto de puntos encuentra el conjunto de ejes , ... , escrito como matriz y proyecciones , ...,$x_i \in \mathbb{R^n}, i=1..k$$u_1$$u_m$$U \in \mathbb{R^n x R^m}$$\xi_1$$\xi_k, \xi_{\circ} \in \mathbb{R^m}$ que minimiza la varianza inexplicada, es decir, resuelve el siguiente problema de optimización cuártica

   $\mathop{argmin} \limits_{u_1,.., u_n,\ \xi_1, .., \xi_k} \sum \limits_{i} \left( U^T \xi_i - x_i \right)^2$

   Por la magia de la simetría tiene la solución por descomposición de valores singulares

2. PCA generalizada . Igual que PCA, pero ahora hay una matriz de precisión $A_i \in \mathbb{R^n x R^n}$ asociada con cada observable $x_i$. El problema se vuelve más complicado.

   $\mathop{argmin} \limits_{u_1,.., u_n,\ \xi_1, .., \xi_k} \sum \limits_{i} \left( A_i U^T \xi_i - x_i \right)^2$

   (cuando todo es una matriz de identidad, este problema es equivalente a PCA, cuando A i = A j , ∀ i , j y diagonal es PCA ponderado). Este problema también se puede resolver en tiempo polinómico a través de la programación semi-definida (SDP): dado que la solución tiene la forma de sumas de cuadrados, por NZ Shor (1987) es un problema convexo, y la tesis de Parillo (2000) ofrece una práctica manera de calcularlo a través de SDP $A_i$$A_i = A_j, \forall i,j$$\square$

En el enfoque SDP, el polinomio cuártico se escribe como una suma de polinomios cuadráticos al cuadrado. Por lo tanto, es de gran importancia saber qué tipo de polinomios cuárticos se pueden escribir como una suma de formas cuadráticas al cuadrado (por analogía con la función biquadratica se les puede llamar formas biquadratic). La mayor parte de la literatura que he encontrado se detiene en el punto en que encuentran que el mínimo de polinomio cuártico está codificando un problema de partición , y no hay argumentos de por qué $p= \sum_k^n (x_k^2-1) + (a^T x)^2, a \in \mathbb{Z^n}$$p$ no se puede representar como una suma de cuadrados de polinomios cuadráticos, más allá de eso.

Me pregunto si alguien hizo estudios sistemáticos de polinomios representables por la suma de cuadrados de polinomios cuadráticos.

Que yo sepa, no existe tal estudio; Además, sin algunos avances no triviales en la tecnología de problemas de suma de cuadrados (SOS), actualmente no está claro cuál sería el beneficio inmediato de tal estudio. (Me centraré en la conexión SOS, ya que, hasta donde sé, es la mejor manera de resolver estos problemas generales generales). Esta afirmación debe tomarse de manera positiva: creo que hay mucha profundidad de investigación en torno estos problemas. Justificaré mi reclamo de varias maneras, con suerte en formas que la gente encuentre útiles.

En primer lugar, para los problemas más básicos del tipo que discute, la conexión SVD ofrece un solucionador mucho mejor que el cuadro negro SOS; en particular, este último construye un SDP con términos, dondenes el número total de variables en el problema de optimización de la fuente (por ejemplo, el número total de elementos en todas las matrices desconocidas; para ver dónde obtuve estos números, vea la lección 10 del curso 2006 de Pablo Parrilo: http: //ocw.mit.edu/courses/electrical-engineering-and-computer-science/6-972-algebraic-techniques-and-semidefinite-optimization-spring-2006/lecture-notes/lecture_10.pdf). Este es un SDP que nunca querrías resolver (el tiempo de ejecución depende dencomon6usando un solucionador de puntos interior), especialmente cuando se compara con la velocidad ridícula de un solucionador SVD (usando notación consistente, SVD será algo así comoO($\binom{n+2}{2}$$n$$n$$n^{6}$; puedes eliminar mis cálculos haciendo un seguimiento del número de columnas, filas y rango objetivo, pero es un desastre, no importa cómo rectifiques mi negligencia). En este sentido, si diseñó un algoritmo especializado para resolver problemas de SOS donde el grado máximo dentro de cualquier polinomio es dos: esto sería increíble, y entonces el tipo de encuesta que busca tendría mucho valor.$\mathcal O(n^{1.5})$

En segundo lugar, dado que la formulación básica de estos problemas está fuera de la ventana, uno puede preguntarse si los solucionadores SOS manejan bien ciertas variantes de estos problemas. Como un ejemplo importante, considere el problema de NMF (factorización de matriz no negativa), donde las incógnitas de matriz sobre las que está optimizando (en su formulación anterior) ahora deben tener entradas no negativas. Desafortunadamente, si toma el SDP estándar utilizado para resolver estos problemas (ver, por ejemplo, las notas de Pablo Parrilo de arriba), no hay forma de introducir esas restricciones. (Y dado que algunas formulaciones de los problemas resultantes son NP-hard, ahora estaría construyendo un esquema de aproximación; es decir, esto puede ser desagradable.) Además, hay un trabajo reciente que explotó la estructura polinómica de este problema para construir solucionadores con algunos garantías: verhttp://arxiv.org/abs/1111.0952 por Arora, Ge, Kannan y Moitra. Construyen algunos algoritmos, sin embargo, cuando resuelven un problema NMF "exacto" (donde hay una factorización exacta, es decir, uno que da el valor objetivo 0), no usan un solucionador SOS: usan una viabilidad de comprobación de resolución de "semi" -conjuntos algebraicos ", un problema de optimización mucho más difícil que permite los tipos de restricciones que plantea el NMF, pero ahora con un tiempo de ejecución exponencial.

De todos modos, para resumir y dar una perspectiva más; Como SOS es afaik el único solucionador de los problemas cuárticos de los que habla (es decir, no creo que haya un solucionador cuántico especializado), he discutido cómo estos solucionadores tienen mejores alternativas para los tipos de problemas cuánticos que a las personas les interesan. Para utilizar efectivamente las herramientas SOS aquí, tendrías que construir un solucionador sorprendente para el caso cuártico (polinomios internos de grado como máximo 2), o tendrías que encontrar alguna forma de agregar restricciones a estos problemas. De lo contrario, la conexión a los problemas de SOS, aunque fascinante, no te da mucho.

También mencionas que te sorprende que la literatura que has encontrado no establezca esta conexión. Creo que eso se debe principalmente a la novedad de los solucionadores de SOS prácticos (a pesar de que la consideración abstracta de los problemas de SOS se remonta muy lejos) y lo que dije anteriormente. De hecho, cuando encontré solucionadores SOS por primera vez, fue a través de las notas y documentos de Parrilo, y me pregunté de manera similar, "¿por qué no está hablando de problemas de tipo PCA"? Luego revisé los hechos anteriores y fruncí el ceño mucho. Creo que también es una mala señal que el propio Parrilo no haya discutido estos problemas fuera de la referencia que usted menciona en su tesis (mientras tanto, él tiene documentos sobre varias extensiones, y tengo mucho respeto). por su trabajo en este campo: debe haber pensado en estos problemas cuárticos específicos muchas veces ...http://arxiv.org/abs/1111.1498 ).