Encontrar la penumbra de un problema de satisfacción de restricciones

La siguiente pregunta ha surgido varias veces al probar la seguridad de un sistema o modelo.

Motivación: las fallas de seguridad del software a menudo no provienen de errores debidos a entradas válidas, sino de errores resultantes de entradas no válidas que están lo suficientemente cerca de las entradas válidas para superar muchas de las verificaciones de validez directas. El ejemplo clásico es, por supuesto, desbordamientos de búfer, donde la entrada es razonable, excepto que es demasiado grande. Los compiladores y otras herramientas pueden ayudar a abordar estos problemas modificando el diseño de la pila y el montón y mediante otras técnicas de ofuscación. Una alternativa es eliminar los problemas del código fuente en sí. Una técnica llamada bombardeo difuso, el programa con entradas está cerca de las entradas esperadas, pero en algunos lugares no son razonables (valores grandes para campos enteros o de cadena). Me gustaría entender el fuzzing (como un ejemplo) desde una perspectiva más formal.

Suponga que el espacio de entradas válidas se describe mediante restricciones . Sea el conjunto de soluciones de tales restricciones, a saber, , donde es el espacio de posibles entradas. $\Phi$ $M$ $M=\lbrace m\in\mathcal{M}~|~m\models\Phi\rbrace$ $\mathcal{M}$

Estoy buscando trabajo que describa las siguientes nociones:

La penumbra de es un conjunto tal que para cada y en cierto sentido, los elementos de son cerca de los elementos de . Uno puede pensar en la penumbra como las casi soluciones . Por supuesto, esta noción no será única. $M$ $M'\subseteq \mathcal{M}$ $m\in M'$ $m\not\models\Phi$ $M'$ $M$
$\Phi$ $\Phi'$ $\Phi\Rightarrow\Phi'$ $\Phi'\land\neg\Phi$ $\Phi$

"Penumbra" es una palabra que seleccioné para describir el concepto. Bien podría llamarse otra cosa.

Encontré inspiración en la morfología matemática , de ahí mi metáfora visual, pero los dos mundos son parsecs separados. ¿Hay algún trabajo útil allí? ¿O tal vez en el mundo de los juegos rudos ?

¿Alguien puede arrojar luz?

lo.logic csp security

— Dave Clarke
fuente

El problema en sí mismo es realmente interesante, sin embargo, la mayoría de las veces el interés en no construir la penumbra (no conozco un nombre más "oficial") sino en ofuscar técnicas que eviten los ataques de manipulación de software (como los ataques mediante modificación de la entrada). Estas técnicas ocultan el núcleo del comportamiento del programa al inundarlo con algo más. Por ejemplo, puede construir un programa intercalando el original junto con un programa que codifique la resolución de un problema NP difícil en una instancia específica.

— Sylvain Peyronnet

Eso es de hecho cierto. Estoy aludiendo al enfoque conocido como fuzzing.

— Dave Clarke

Por cierto, CSP = Problema de satisfacción de restricciones.

— MS Dousti

Gran parte de la atención prestada a las variantes de optimización del problema de satisfacción de restricciones (CSP) se ha centrado en satisfacer cierto número de restricciones (MAX-CSP) o, en el caso booleano, en elegir la solución que asigna el mayor valor posible a tantas variables como sea posible ( MAX-ONES, también hay MIN-ONES).

En cambio, está preguntando acerca de una variante que podría llamarse CSP MÁXIMO PARCIAL. Esto se estudió al menos desde fines de la década de 1960, pero no sé si tenga un nombre establecido. Es un problema natural, y sería bueno ver más trabajo investigándolo. ¡Gracias por proporcionar otra aplicación potencial para este problema!

Ambler, AP y Barrow, HG y Brown, CM y Burstall, RM y Popplestone, RJ, un sistema versátil para ensamblaje controlado por computadora , Inteligencia Artificial 6 129-156, 1975. doi: 10.1016 / 0004-3702 (75) 90006- 5 5

Un conjunto de asignaciones de valores variables se denomina asignación parcial . Se puede escribir una asignación de valor variable como una tupla (variable, valor). Las asignaciones parciales son simplemente funciones de variables a valores. Los accesorios son tareas parciales que no violan ninguna restricción. De manera equivalente, un accesorio no contiene ninguna asignación parcial prohibida por alguna restricción (como un subconjunto).

Una forma de expresar el problema de optimización es la siguiente.

$f$
$|f|$

$n$ $n$ $n-1$

$k$ $d$ $k-d$

La segunda parte de su pregunta también parece muy interesante, pero no conozco ningún trabajo relacionado con ella.

Nota al pie: El término prop es de mi tesis; está destinado a transmitir la idea de que tales asignaciones parciales son adecuadas y también de que respaldan el conjunto de soluciones. Esto está en contraste con un nogood , que es el término aceptado para describir una asignación parcial que no se puede extender a una solución. La palabra "nogood" fue introducida por Richard Stallman y Gerald Sussman en 1976, cuando RMS todavía era un investigador de IA en lugar de un activista por la libertad del software.

Stallman, Richard M. y Sussman, Gerald Jay, Razonamiento hacia adelante y retroceso dirigido por la dependencia en un sistema de análisis de circuitos asistido por computadora , MIT Artificial Intelligence Laboratory Memo No. 380, 1976. ( PDF )

— András Salamon
fuente