Problema de vectores no ortogonales

Considere los siguientes problemas:

Problema de vectores ortogonales

Entrada: Un conjunto $S$ de $n$ vectores booleanos de longitud $d$ .

Pregunta: ¿Existen vectores distintos $v_1$ y $v_2 \in S$ modo que $v_1 \cdot v_2 = 0$ ?

Problema de vectores no ortogonales

Entrada: un conjunto $S$ de $n$ vectores booleanos de longitud $d$ y un entero positivo $k$ .

Pregunta: ¿Existen vectores distintos $v_1$ y $v_2 \in S$ tal que $v_1 \cdot v_2 \geq k$ ?

¿Cuál es la relación entre estos dos problemas?

En particular, aquí hay algunas preguntas más específicas sobre las que me he estado preguntando:

(1) ¿Alguno de estos problemas parece ser más difícil que el otro?

(2) No estoy seguro de cuál es el algoritmo actual de última generación para OVP, pero para cualquiera de estos problemas, ¿puede obtener un límite superior mejor que el tiempo $O(n^2 \cdot d)$ ?

(3) ¿Fijar $k$ hace alguna diferencia para la complejidad del segundo problema?

Por $v_1 \cdot v_2$ , me refiero al producto interno de $v_1$ y $v_2$ sobre $\mathbb{R^d}$ .

Editar: la mayoría de las respuestas ofrecen ideas realmente geniales cuando $d$ es pequeño.

¿Qué se puede decir cuando $d$ es más grande? Say $d = n$ o $d = \sqrt{n}$ o al menos$d = n^\alpha$para algunos$\alpha > 0$.

Cuando se da como parte de la entrada, el segundo problema es equivalente al problema monocromático de Max-IP (dado , find ).k S ⊆ { 0 , 1 } d max ( a , b ) ∈ S , a ≠ b a ⋅ $k$$S \subseteq \{0,1\}^d$$\max_{(a,b) \in S, a\ne b} a \cdot b$

Recientemente, yo y Ryan Williams tenemos un trabajo (aún no publicado) que muestra que cuando , OVP y una versión bicromática de Max-IP (dado , encuentran ), en realidad es equivalente: es decir, si uno de ellos tiene un algoritmo de tiempo , también lo tiene el otro. (La reducción de OVP a Max-IP es bien conocida, la nueva reducción aquí es la de Max-IP a OVP).$d = O(\log n)$A , B max ( a , b ) ∈ A × B a ⋅ b n 2 - $A,B$$\max_{(a,b) \in A \times B} a \cdot b$$n^{2-\varepsilon}$

Dado que la versión monocromática de Max-IP se puede reducir a la versión bicromática, el resultado anterior también implica que cuando , la Max-IP monocromática se puede reducir a OVP.$d = O(\log n)$

Creo que es una pregunta abierta si OVP puede reducirse a Max-IP monocromática. Esto también está estrechamente relacionado con el establecimiento de la dureza OV para el problema de par más cercano (ver, por ejemplo, sobre la complejidad del par más cercano a través del par polar de conjuntos de puntos )

Para Max-IP monocromática, existe un algoritmo con tiempo de ejecución algoritmo de tiempo de Alman, Chan y Williams ( también señalado por Rasmus), por lo que creo que es el estado del arte. Mientras que el mejor algoritmo para OVP se ejecuta en tiempo cuando , que es significativamente más rápido.n 2 - 1 / ~ O ( ( d / log n ) 1 / 3 ) n 2 - 1 / O ( log c ) d = c log $n^{2 - 1/\widetilde{O}((d/\log n)^{1/3})}$$n^{2 - 1/O(\log c)}$$d = c \log n$

Además, la versión aproximada de Max-IP también se estudia en este documento sobre la dureza del producto interno máximo aproximado y exacto (bicromático) , que da una caracterización para el caso bicromático (es decir, para qué dimensiones y relación aproximada , El problema se puede resolver en tiempo?). El algoritmo en ese documento también funciona para el caso monocromático.d t n 2 - $d$$t$$n^{2-\varepsilon}$

Si creo que las técnicas de Alman, Chan y Williams dan la solución más conocida al problema de los vectores no ortogonales. (Lo expresan de manera diferente, como un problema de par más cercano de Hamming, pero esto es equivalente a los factores poli ( )).k = O ( log n ) $k=O(\log n)$$d$

Sin límite en , una versión bicromática del problema de vectores no ortogonales es al menos tan difícil como el problema de vectores ortogonales (OVP) hasta un factor . Primero, tenga en cuenta que con un factor sobrecarga podemos reducir a la versión bicromática de OVP donde (unión disjunta en conjuntos de "color" diferente) y solo estamos interesados ​​en pares ortogonales bicromáticos . En segundo lugar, con un factor sobrecarga podemos reducir al caso especial de OVP bicromático donde todos los vectores en tienen el mismo peso de Hamming . Finalmente, invirtiendo todos los vectores en para obtenerk d log n log n S = S 1 ∪ S 2 ( v 1 , v 2 ) ∈ S 1 × S 2 d S 1 w S 2 S ′ 2 S 1 S 2 S 1 S ′ 2$k$$d \log n$$\log n$$S = S_1 \cup S_2$$(v_1,v_2)\in S_1\times S_2$$d$$S_1$$w$$S_2$$S'_2$ vemos que y tienen un par ortogonal si y solo si y tienen un par de vectores con producto punto al menos . Sin embargo, no estoy seguro de si hay una reducción eficiente del problema de vectores bicromáticos no ortogonales a la versión monocromática que usted describe.$S_1$$S_2$$S_1$$S'_2$$w$

Si permite la aproximación, hay una serie de resultados recientes para el problema de vectores bicromáticos no ortogonales (a menudo llamado el problema de búsqueda máxima de productos internos). Ver, por ejemplo, este documento y sus referencias.

Equivalencias:

El problema de los vectores no ortogonales (como se definió anteriormente) para un conjunto de vectores booleanos de longitud y un entero positivo es equivalente a lo siguiente:$S$$n$$d$$k$

• Encontrar una submatriz por de 1 en una matriz booleana por dada.$2$$k$$n$$d$

• Encontrar un subgrafo completo en un gráfico bipartito dado donde el primer conjunto de vértices tiene tamaño y el segundo conjunto de vértices tiene tamaño .$\mathrm{K}_{2,k}$$n$$d$

Algoritmo ingenuo:

El enfoque ingenuo para el problema de los vectores no ortogonales se ejecuta en tiempo porque lleva tiempo calcular ingenuamente el producto escalar de cada par de vectores.$O(d \cdot n^2)$$O(d \cdot n^2)$

Respuesta a las preguntas (2) y (3):

Sí, hay varios algoritmos que son más eficientes en diferentes casos.

Primer enfoque:

Podemos resolver el problema de los vectores no ortogonales en el tiempo .$O(d \cdot n + k \cdot n^2)$

Nota: Dado que el producto punto de dos vectores booleanos de longitud debe estar limitado por , el problema solo tiene sentido cuando .$d$$d$$k \leq d$

Prueba. Deje que se dé un conjunto de vectores booleanos de longitud y un entero positivo . Considere una enumeración de los elementos de .$S$$n$$d$$k$$\{s_i\}_{i\in[n]}$$S$

Cree un hashmap partir de pares a . Inicialmente, asigna cada entrada al valor 0.$m$$(a,b) \in [n] \times [n]$$\mathbb{N}$$m$

Para cada , hacemos lo siguiente. través de pares de vectores , modo que , el bit ésimo de sea ​​1, y el bit ésimo de sea ​​1. Para cada uno de estos y si , entonces y no son ortogonales, es decir, . De lo contrario, incremente y continúe.$i \in [d]$$s_a$$s_b$$a < b$$i$$s_a$$i$$s_b$$s_a$$s_b$$m(a,b) = k - 1$$s_a$$s_b$$s_a \cdot s_b \geq k$$m(a,b)$

Si terminamos la enumeración, entonces ningún par de vectores no son ortogonales.

Se necesita tiempo para explorar cada bit de cada vector. Luego, toma tiempo adicional para enumerar pares de vectores. Debido a que hay como máximo pares de vectores y cada par puede aparecer como máximo veces antes de que se demuestre que no son ortogonales, enumerar pares toma como máximo tiempo. Por lo tanto, el tiempo de ejecución total es .$O(n \cdot d)$${n \choose 2}$$k-1$$O(k \cdot n^2)$$O(d \cdot n + k \cdot n^2)$

Nota: Cuando , podemos mejorar este enfoque del tiempo . Esto se debe a que cuando , podemos reducir la búsqueda de un par de vectores no ortogonales entre vectores booleanos de longitud a encontrar un par de vectores no ortogonales entre vectores booleanos de longitud .$k = 2$$O(n \cdot d)$$k = 2$$n$$d$$d$$n$

Segundo enfoque:

Podemos resolver el problema de los vectores no ortogonales en el tiempo .$O(k \cdot {d \choose k} \cdot n)$

Prueba. Deje que se dé un conjunto de vectores booleanos de longitud y un entero positivo .$S$$n$$d$$k$

Enumere a través de los conjuntos modo que tenga el tamaño . Por cada vector , comprobar si tiene todos los 1 de en las posiciones en . Si hay dos vectores que tienen todos los 1 en las posiciones en , entonces hemos encontrado dos vectores no ortogonales.$P \subseteq [d]$$P$$k$$v \in S$$v$$P$$P$

En total, hay posibles opciones para . Y, para cada elección, exploramos a través de bits de los vectores. Por lo tanto, en total, el tiempo de ejecución es .${d \choose k}$$P$$k \cdot n$$O(k \cdot {d \choose k} \cdot n)$

Tercer enfoque:

Cuando , podemos resolver el problema de los vectores no ortongales en tiempo donde es el exponente para la multiplicación de matrices enteras. Cuando , podemos resolver el problema de los vectores no ortongales en el tiempo .$d \leq n$$O(d^{\omega - 2} \cdot n^2)$$\omega$$d > n$$O(d \cdot n^{\omega - 1})$

Nota: Como lo señaló @Rasmus Pagh, podemos mejorar este algoritmo a cuando . Consulte aquí para obtener más información: https://arxiv.org/abs/1204.1111$O(n^{2 + o(1)})$$d \leq n^{0.3}$

Prueba. Deje que se dé un conjunto de vectores booleanos de longitud y un entero positivo .$S$$n$$d$$k$

Considere matrices y . La primera matriz tiene dimensiones de por , donde cada fila de es un vector de . La segunda matriz tiene dimensiones por , donde cada columna de es un vector de .$A$$B$$A$$n$$d$$A$$S$$B$$d$$n$$B$$S$

Podemos calcular el producto escalar de cada par de vectores en calculando usando algoritmos para la multiplicación de matrices enteras rápidas.$S$$A \cdot B$

Cuando , un enfoque es convertir la multiplicación de matriz rectangular en multiplicaciones del cuadrado por matrices . Al usar la multiplicación de matriz cuadrada rápida, podemos calcular todas las multiplicaciones en tiempo.$d \leq n$$(\frac{n}{d})^2$$d$$d$$O((\frac{n}{d})^2 \cdot d^{\omega}) = O(d^{\omega - 2} \cdot n^2)$

Cuando , un enfoque es convertir la multiplicación de matriz rectangular en multiplicaciones del cuadrado por matrices. Al usar la multiplicación de matriz cuadrada rápida, podemos calcular todas las multiplicaciones en tiempo.$d > n$$\frac{d}{n}$$n$$n$$O((\frac{d}{n}) \cdot n^{\omega}) = O(d \cdot n^{\omega - 1})$