¿Generalizando el "truco mediano" a dimensiones superiores?

Para los algoritmos aleatorios $\mathcal{A}$ toman valores reales, el "truco mediano" es una forma simple de reducir la probabilidad de falla a cualquier umbral $\delta > 0$ , a costa de solo un multiplicativo $t=O(\log\frac{1}{\delta})$sobrecarga. A saber, si el$\mathcal{A}$salida 's cae en un "buen rango"$I=[a,b]$con una probabilidad de (al menos)$2/3$, a continuación, ejecutar copias independientes$\mathcal{A}_1,\dots,\mathcal{A}_t$y tomando la mediana de sus salidas$a_1,\dots,a_t$dará como resultado un valor que cae en$I$con una probabilidad de al menos$1-\delta$por los límites de Chernoff / Hoeffding.

¿Hay alguna generalización de este "truco" en dimensiones superiores, digamos $\mathbb{R}^d$ , donde el buen rango es ahora un conjunto convexo (o una bola, o cualquier conjunto suficientemente agradable y estructurado)? Es decir, dado un algoritmo aleatorio $\mathcal{A}$ la salida de valores en $\mathbb{R}^d$ , y un "buen conjunto" $S\subseteq \mathbb{R}^d$ tal que $\mathbb{P}_r\{ \mathcal{A}(x,r) \in S \} \geq 2/3$ para todos $x$ , ¿cómo se puede impulso la probabilidad de éxito a $1-\delta$con solo un costo logarítmico en $1/\delta$ ?

(Dicho de otra manera: dado fijo, arbirary $a_1,\dots, a_t\in \mathbb{R}^d$ con la garantía de que al menos $\frac{2t}{3}$ de los$a_i$pertenecen a$S$, ¿hay algún procedimiento que genere un valor desde$S$? Si es así, ¿hay uno eficiente?)

¿Y cuál es el conjunto mínimo de supuestos que uno necesita en $S$ para que se pueda lograr lo anterior?

Lo siento si esto resulta trivial: no pude encontrar una referencia sobre esta pregunta ...

Lo que está buscando es casi la misma tendencia central robusta : una forma de reducir una nube de puntos de datos a un solo punto, de modo que si muchos de los puntos de datos están cerca de alguna "verdad básica", pero el resto de ellos están arbitrariamente lejos, entonces su salida también estará cerca de la verdad básica. El "punto de ruptura" de dicho método es la fracción de valores atípicos arbitrariamente malos que puede tolerar. La diferencia es que en su caso desea reemplazar "cerca de" por "dentro del casco convexo de".

Una forma de capturar esto es con la noción de profundidad de Tukey. Un punto tiene la profundidad de Tukey (con respecto a un conjunto dado de n puntos de datos) si cada medio espacio que contiene el punto dado también contiene al menos p n puntos de datos. Si hay un buen subespacio convexo en el que desea estar dentro, entonces un punto con la profundidad de Tukey p estará dentro, siempre que haya al menos ( 1 - p ) n de los puntos de datos dentro de él. Entonces, el punto de ruptura de este método es el mayor valor de p que puede alcanzar.$p$$n$$pn$$p$$(1-p)n$$p$

Desafortunadamente, este punto de ruptura es , no cercano a 1/2, tanto para la profundidad de Tukey como para su problema. He aquí por qué: si sus datos se agrupan cerca de los vértices d + 1 de un símplex, siempre que menos de 1 / ( d + 1 ) fracción de ellos sean valores atípicos (pero no sabe cuáles), entonces cualquier punto en el simplex es seguro de elegir, ya que siempre estará dentro del casco convexo de los no atípicos. Pero si más de 1 / ( d + 1 $1/(d+1)$$d+1$$1/(d+1)$$1/(d+1)$ de los puntos pueden ser valores atípicos, no hay ningún lugar seguro para elegir: cualquiera que sea el punto en el simplex que elija, los valores atípicos podrían ser todos los puntos del vértice simplex más cercano, y estaría fuera del casco del no valores atípicos

Si está dispuesto a tolerar un punto de ruptura peor, más parecido a , hay un método aleatorio para encontrar un punto profundo que sea polinómico tanto en n como en d : vea mi artículo$O(1/d^2)$$n$$d$

Aproximación de puntos centrales con puntos de radón iterados, K. Clarkson, D. Eppstein, GL Miller, C. Sturtivant y S.-H. Teng, 9º ACM Symp. Comp. Geom , San Diego, 1993, págs. 91–98, Int. J. Comp. Geom & Appl. 6 (3): 357–377, 1996, http://kenclarkson.org/center/p.pdf

Esta es una buena pregunta y lo he pensado antes. Esto es lo que se nos ocurrió:

Ejecutas tu algoritmo veces para obtener salidas x 1 , ⋯ , x n ∈ R d y sabes con alta probabilidad una gran fracción de x $n$$x_1, \cdots, x_n \in \mathbb{R}^d$$x_i$ caída s en algún bien establecido . No sabes qué es G , solo que es convexo. La buena noticia es que hay una manera de obtener un punto en G sin más información al respecto. Llame a este punto f ( x 1 , ⋯ , x n ) .$G$$G$$G$$f(x_1, \cdots, x_n)$

Teorema. Para todos los números naturales y d , existe una función f : ( R d ) n → R d tal que se cumple lo siguiente. Let x $n$$d$$f : (\mathbb{R}^d)^n \to \mathbb{R}^d$ y dejar que G ⊂ R d sea ​​un conjunto convexo satisfactorio$x_1 ... x_n \in \mathbb{R}^d$$G \subset \mathbb{R}^d$Entoncesf $$\frac{1}{n}\left|\left\{ i \in [n] : x_i \in G \right\}\right| > \frac{d}{d+1}.$$ . Además, f es computable en el tiempo polinomial en n d . $f(x_1, ..., x_n) \in G$$f$$n^d$

Tenga en cuenta que, para , podemos establecer f para ser la mediana. Entonces, esto muestra cómo generalizar la mediana para d > 1 .$d=1$$f$$d>1$

Antes de probar este resultado, tenga en cuenta que es ajustado: Sea y sea x 1 , ⋯ , x d los elementos básicos estándar yx d + 1 = 0 . Cualquier subconjunto de d de los puntos está contenido en un espacio afín G de dimensión d - 1 (que se define de manera única por esos puntos). Pero ningún punto está contenido en todos esos espacios afines. Por lo tanto, hay algo de G convexo que contiene n ⋅ d / ( d $n=d+1$$x_1, \cdots, x_d$$x_{d+1}=0$$d$$G$$d-1$$G$ puntos pero no contiene f ( x 1 , ⋯ , x n ) , independientemente del valor que tome.$n\cdot d/(d+1)=d$$f(x_1, \cdots, x_n)$

Prueba. Usamos el siguiente resultado.

El teorema de Helly. Deje ser subconjuntos convexos de R d . Suponga que la intersección de cualquier d + 1 K i s no está vacía. Entonces la intersección de todos los K i s no está vacía.$K_1 ... K_m$$\mathbb{R}^d$$d+1$ $K_i$$K_i$

Haga clic aquí para obtener una prueba del teorema de Helly.

Ahora para probar nuestro teorema:

Deje que ser un límite superior en el número de puntos no en G . Considere todos los medios espacios cerrados K 1 . . . K m ⊂ R d que contiene al menos n - k puntos con su límite que contiene un conjunto de puntos de rango máximo (este es un número finito de medios espacios ya que cada K i está definido por d + 1 puntos en su límite).$k<n/(d+1)$$G$$K_1 ... K_m \subset \mathbb{R}^d$$n-k$$K_i$$d+1$

El complemento de cada contiene como máximo k puntos. Por un límite de unión, la intersección de cualquier d + 1 K i s contiene al menos n - k ( d + 1 ) > 0 puntos. Según el teorema de Helly (dado que los medios espacios son convexos), hay un punto en la intersección de todos los K i s . Dejamos que f sea ​​una función que calcule un punto arbitrario en la intersección de los K i s.$K_i$$k$$d+1$ $K_i$$n-k(d+1)$$K_is$$f$$K_i$

Todos los restos que se va a mostrar que la intersección de la s está contenido en G .$K_i$$G$

Sin pérdida de generalidad, es el casco convexo de un subconjunto de los puntos con rango completo. Es decir, podemos reemplazar G con el casco convexo de los puntos que contiene. Si esto no tiene rango completo, simplemente podemos aplicar nuestro teorema en una dimensión inferior.$G$$G$

Cada cara de define un medio espacio, donde G es la intersección de estos medios espacios. Cada uno de estos medios espacios contiene G y, por lo tanto, contiene al menos n - k puntos. El límite de uno de estos medios espacios contiene una cara de$G$$G$$G$$n-k$ y, por lo tanto, contiene un conjunto de puntos de rango máximo. Por lo tanto, cada uno de estos medios espacios es un K i . Por lo tanto, la intersección de todos los K i s está contenida en G , según se requiera.$G$$K_i$$K_i$$G$

Para calcular , configure un programa lineal donde las restricciones lineales correspondan a K i sy una solución factible corresponda a un punto en la intersección de todos los K i s. QED$f$$K_i$$K_i$

Desafortunadamente, este resultado no es muy práctico en el entorno de alta dimensión. Una buena pregunta es si podemos calcular más eficiente:$f$

Problema abierto Demuestre el teorema anterior con la conclusión adicional de que puede calcularse en un polinomio temporal en n y d . $f$$n$$d$

Aparte: también podemos cambiar el problema para obtener una solución eficiente: si tienen la propiedad de que estrictamente más de la mitad se encuentran en una bola B ( y , ε ) , entonces podemos encontrar un punto z que yace en B ( y , 3 ε ) en polinomio tiempo en n y$x_1, \cdots, x_n$$B(y,\varepsilon)$$z$$B(y,3\varepsilon)$$n$ . En particular, podemos establecer z = x i para un i arbitrario demodo que estrictamente más de la mitad de los puntos estén en$d$$z=x_i$$i$ .$B(z,2\varepsilon)$

Existe una noción de la mediana de un conjunto de puntos en grandes dimensiones y normas generales que se conoce con varios nombres. Es solo el punto que minimiza la suma de distancias a todos los puntos del conjunto. Se sabe que tiene una propiedad de amplificación de confianza similar a la mediana habitual con un pequeño aumento multiplicativo en la distancia. Puede encontrar los detalles en el Teorema 3.1 de este documento: http://arxiv.org/pdf/1308.1334.pdf

Una cosa buena que muestra este artículo es que el factor por el cual la distancia aumenta puede hacerse constante> 1 si puede amplificar desde una confianza arbitrariamente alta (pero constante <1).

Editar: hay otro artículo reciente sobre el tema de Hsu y Sabato http://arxiv.org/pdf/1307.1827v6.pdf Principalmente analiza y aplica el procedimiento en el que el punto en el conjunto con la distancia media más pequeña al resto de los puntos se usa. Este procedimiento se puede usar con cualquier métrica, pero solo da un factor de aproximación de 3.