La línea separa dos conjuntos de puntos.

¿Si hay una manera de identificar si dos conjuntos de puntos se pueden separar por una línea?

Tenemos dos conjuntos de puntos y B si hay una línea que separa A y B de manera que todos los puntos de A y solo A en un lado de la línea, y todos los puntos de B y solo B en el otro lado.$A$$B$$A$$B$$A$$A$$B$$B$

El algoritmo más ingenuo que se me ocurrió es construir un polígono convexo para y B y probar su intersección. Parece que la complejidad del tiempo para esto debería ser O ( n log h ) como para construir un polígono convexo. En realidad, no espero ninguna mejora en la complejidad del tiempo, no estoy seguro de que pueda mejorarse en absoluto. Pero al menos debería haber una forma más hermosa de determinar si existe tal línea.$A$$B$$O(n\log h)$

Tanto uli como Dave Clarke observan correctamente que este es un problema de programación lineal, incluso en dimensiones más altas (¿Pueden estos dos conjuntos de puntos estar separados por un hiperplano?) Y, por lo tanto, puede resolverse en tiempo polinómico. Pero debido a que sus puntos se encuentran en el plano, su problema puede resolverse en tiempo , donde n es el número total de puntos.$O(n)$$n$

La solución más simple es probablemente el algoritmo aleatorio de Seidel. Elija un punto de entrada uniforme al azar y calcule recursivamente una línea de separación ℓ para todos los puntos excepto p .$p$$\ell$ $p$

• Si no existe tal línea, entonces los puntos originales no son separables.

• Si está en el lado correcto de ℓ , entonces ℓ separa los puntos originales.$p$$\ell$$\ell$

• Si está en el lado equivocado de ℓ , entonces los puntos originales se pueden separar por una línea a través de p , o los puntos originales no se pueden separar en absoluto. Esta condición es fácil de verificar en O ( n ) tiempo [ejercicio].$p$$\ell$$p$$O(n)$

Este algoritmo se ejecuta en tiempo con alta probabilidad (con respecto a las elecciones aleatorias del algoritmo). Para obtener más detalles, consulte el documento original o cualquier cantidad de notas de clase en línea.$O(n)$

La propiedad de sus dos conjuntos de datos es la de la separabilidad lineal , simplemente, que hay una línea que los separa. Se dedica mucho aprendizaje automático a encontrar clasificadores lineales , que son líneas que realizan la separación que le interesa.

Mientras habla de líneas, supondré que sus puntos se encuentran en el plano. Lo que se quiere hacer es encontrar los valores de , w 2 y W 3 , de tal manera que para todos los puntos ( un 1 , un 2 ) en el conjunto A , W 1 a 1 + w 2 a 2 ≥ w 3 y para todos los puntos ( b 1 , b 2 ) en B , w 1 b 1$w_1$$w_2$$w_3$$(a_1,a_2)$$A$$w_1 a_1+w_2a_2\ge w_3$$(b_1,b_2)$$B$ . Así, la desigualdad w 1 x + w 2 y ≥ w 3 puede ser visto como un clasificador para el grupo A .$w_1 b_1+w_2b_2<w_3$$w_1 x+w_2y\ge w_3$$A$

Existen muchos algoritmos de aprendizaje automático para determinar una línea óptima (regresión lineal, regresión logística, etc.). Estos encontrarán valores para basados ​​en alguna métrica de error. Luego puede probar si todos los puntos están clasificados correctamente. Es decir, si todos los valores en A satisfacer la ecuación de arriba y de manera similar para B .$w_1,w_2,w_3$$A$$B$

$w_1,w_2,w_3$

$w_1 a^i_1+w_2a^i_2\ge w_3$$i=1,..,|A|$$A=\{(a^1_1,a^1_2),\ldots,(a^{|A|}_1,a^{|A|}_2)\}$

$w_1 b^j_1+w_2b^j_2< w_3$$j=1,..,|B|$$B=\{(b^1_1,b^1_2),\ldots,(b^{|B|}_1,b^{|B|}_2)\}$

Si estas restricciones son consistentes, entonces existe una línea.

$2$