¿Cuáles son algunas implicaciones de los teoremas de Gödel en la investigación de IA?

Nota: Mi experiencia con el teorema de Gödel es bastante limitada: he leído a Gödel Escher Bach; hojeó la primera mitad de Introducción al teorema de Godel (por Peter Smith); y algunas cosas al azar aquí y allá en internet. Es decir, solo tengo una vaga comprensión de alto nivel de la teoría.

En mi humilde opinión, el teorema de incompletitud de Gödel (y sus muchos teoremas relacionados, como el problema de Halting y el teorema de Löbs) se encuentran entre los descubrimientos teóricos más importantes.

Sin embargo, es un poco decepcionante observar que no hay tantas (al menos que yo sepa) aplicaciones teóricas de los teoremas, probablemente en parte debido a 1. la naturaleza obtusa de la prueba 2. las fuertes implicaciones filosóficas que las personas no tienen dispuesto a comprometerse fácilmente con.

A pesar de eso, todavía hay algunos intentos de aplicar los teoremas en una filosofía de la mente / contexto de IA. La parte superior de mi cabeza:

El argumento de Lucas-Penrose : que argumenta que la mente no está implementada en un sistema formal (como en la computadora). (Sin embargo, no es una prueba muy rigurosa)

Aparentemente, parte de la investigación en MIRI utiliza Löbs Thereom, aunque el único ejemplo que conozco es la cooperación de agentes de Löbian.

Todos estos son realmente geniales, pero ¿hay algunos ejemplos más? Especialmente aquellos que realmente son considerados seriamente por la comunidad académica.

(cf. ¿Cuáles son las implicaciones filosóficas del primer teorema de incompletitud de Gödel? en SE)

Definitivamente hay muchas implicaciones para la IA, que incluyen:

1. La inferencia con la lógica de primer orden es semi-decidible. Esta es una gran decepción para todas las personas que querían usar la lógica como herramienta principal de IA.

2. La equivalencia básica de dos declaraciones lógicas de primer orden es indecidible, lo que tiene implicaciones para los sistemas y bases de datos basados ​​en el conocimiento. Por ejemplo, la optimización de las consultas de la base de datos es un problema indecidible debido a esto.

3. La equivalencia de dos gramáticas libres de contexto es indecidible, lo cual es un problema para el enfoque lingüístico formal hacia el procesamiento del lenguaje.

4. Al planificar en IA, solo encontrar un plan factible es indecidible para algunos lenguajes de planificación que se necesitan en la práctica.

5. Al realizar la generación automática de programas, nos enfrentamos a un montón de resultados de capacidad de decisión, ya que cualquier lenguaje de programación razonable es tan poderoso como una máquina de Turing.

6. Finalmente, todas las preguntas no triviales sobre un paradigma de computación expresiva, como las redes Perti o los autómatas celulares son indecidibles.

Escribí un extenso artículo sobre esto hace unos veinte años, que se publicó en Engineering Applications of Artificial Intelligence 12 (1999) 655-659 . Es bastante técnico y puede leerlo en su sitio web personal, pero esta es la conclusión:

En lo anterior se demostró que hay infinitas construcciones de prueba para el teorema de Gödel, en contraste con la única que se usó en las discusiones sobre inteligencia artificial hasta ahora. Aunque todas las construcciones que se han revelado realmente pueden ser imitadas por una computadora, es evidente que hay construcciones que aún no se han revelado. Nuestro análisis ha demostrado que podrían existir construcciones que solo podrían ser descubiertas por un humano. Este es un pequeño 'tal vez' que no se puede probar que depende de los límites de la imaginación humana.

Por lo tanto, las personas que defienden la equivalencia matemática de los humanos y las máquinas deben confiar en su creencia en una mente limitada, lo que implica que su conclusión está contenida en su suposición. Por otro lado, las personas que defienden la superioridad de los humanos deben asumir esta superioridad en sus argumentos matemáticos, en última instancia, solo derivan la conclusión que ya estaba presente en su sistema de razonamiento desde el principio.

Por lo tanto, no es posible producir argumentos (meta) matemáticamente sólidos sobre la relación entre la mente humana y la Máquina de Turing sin suponer en la mente humana que es al mismo tiempo la conclusión del argumento. Por lo tanto, el asunto es indecidible.

Descargo de responsabilidad: desde entonces he dejado la academia, por lo que no sé del pensamiento contemporáneo.

Encontré este artículo del matemático y filósofo Solomon Feferman sobre la conferencia de Gibbs de 1951 de Gödel sobre ciertas consecuencias filosóficas de los teoremas de incompletitud , mientras leía el siguiente artículo de Wikipedia

Filosofía de la inteligencia artificial .

cuyo resumen nos da (como se esperaba) una idea de alto nivel de lo que se discute en el mismo:

Este es un análisis crítico de la primera parte de la conferencia de Gibbs de 1951 de Gödel sobre ciertas consecuencias filosóficas de los teoremas de incompletitud.

La discusión de Gödel se enmarca en términos de una distinción entre matemática objetiva y matemática subjetiva , según la cual la primera consiste en las verdades de las matemáticas en un sentido absoluto, y la segunda consiste en todas las verdades demostrables humanamente.

La pregunta es si estos coinciden; si lo hacen, ningún sistema axiomático formal (o máquina de Turing ) puede comprender las potencialidades de matematización del pensamiento humano y, de lo contrario, existen problemas matemáticos de forma diofantina absolutamente irresolubles.

O ... la mente humana ... supera infinitamente los poderes de cualquier máquina finita, o bien existen problemas diofantinos absolutamente irresolubles.

que puede ser de interés, al menos filosóficamente, para la investigación en IA. Me temo que este documento puede ser similar al artículo al que se está vinculando con respecto a los "intentos" o argumentos filosóficos de Lucas y Penrose.