¿Qué quiso decir Turing cuando dijo que "las máquinas no pueden dar lugar a sorpresas" se debe a una falacia?

29

Encontré a continuación la declaración de Alan M. Turing aquí :

"La opinión de que las máquinas no pueden dar lugar a sorpresas se debe, creo, a una falacia a la que los filósofos y matemáticos están particularmente sujetos. Esta es la suposición de que tan pronto como se presenta un hecho a la mente, todas las consecuencias de ese hecho surgen en la mente simultáneamente con ella. Es una suposición muy útil en muchas circunstancias, pero se olvida muy fácilmente que es falsa ".

No soy un hablante nativo de inglés. ¿Alguien podría explicarlo en inglés simple?

turing-machines computability computation-models

— smwikipedia
fuente

2

tal vez, es más adecuado para el portal de filosofía en lugar de la ciencia dura como CS

— Bulat

3

@Bulat Iba a decir lo mismo, y redirigir a los Estudiantes del Idioma Inglés , pero luego me di cuenta de que hay un contenido relacionado con CS que se puede explicar en una respuesta, que probablemente no se abordaría, en otras partes de Stack Exchange.

— David Richerby

77

Un buen ejemplo es la iteración de la transformación z: = z² + c , donde z y c son números complejos. ¿Qué sucede si tomo cualquier punto de partida en el plano z e itero, el número irá al infinito o no? Un tipo común diría, sí, esto le dará dos regiones o tal vez algunas más donde el valor va a cero y, por lo demás, va al infinito. Relativamente sorprendente. Luego aparece Mandelbrot y en realidad traza las regiones en el plano definido por esta simple "máquina". Como el resultado sale de la impresora dotmatrix, esta simple "máquina" demuestra ser ... extraña.

— David Tonhofer

Facebook y otras redes sociales son un gran ejemplo de esto ... Muchas de las consecuencias de sus algoritmos no son algo que esperaban los creadores (o alguien realmente).

— aslum

Un individuo bastante peculiar una vez se refirió a esto usando una metáfora de fuego: "Cuanto más grande construyes tu hoguera de conocimiento, más oscuridad se revela a tu ojo sorprendido"

— JacobIRR

30

Los matemáticos y los filósofos a menudo asumen que las máquinas (y aquí, probablemente quiere decir "computadoras") no pueden sorprendernos. Esto se debe a que suponen que una vez que aprendemos algún hecho, entendemos inmediatamente cada consecuencia de este hecho. Esto suele ser una suposición útil, pero es fácil olvidar que es falso.

Él dice que los sistemas con descripciones simples y finitas (por ejemplo, máquinas de Turing) pueden exhibir un comportamiento muy complicado y que esto sorprende a algunas personas. Podemos entender fácilmente el concepto de máquinas de Turing, pero luego nos damos cuenta de que tienen consecuencias complicadas, como la indecidibilidad del problema de detención, etc. El término técnico aquí es que "el conocimiento no se cierra bajo deducción". Es decir, podemos saber algún hecho , pero no sabemos , a pesar de que implica . $A$ $B$ $A$ $B$

Honestamente, sin embargo, no estoy seguro de que el argumento de Turing sea muy bueno. Quizás tenga el beneficio de escribir casi 70 años después de Turing, y entiendo que el matemático típico sabe mucho más sobre lógica matemática que en la época de Turing. Pero me parece que los matemáticos están bastante familiarizados con la idea de sistemas simples que tienen un comportamiento complejo. Por ejemplo, cada matemático conoce la definición de un grupo , que consta de solo cuatro axiomas simples. Pero nadie, hoy o entonces, pensaría: "Ajá. Conozco los cuatro axiomas, por lo tanto, conozco todos los hechos sobre los grupos". Del mismo modo, los axiomas de Peano dan una descripción muy breve de los números naturales, pero nadie que los lea piensa "Bien, ahora conozco todos los teoremas sobre los números naturales. Vamos"

— David Richerby
fuente

22

Históricamente, a principios del siglo XX tenía una fuerte creencia académica en "resolver" las matemáticas. Por ejemplo, el programa de Hilbert y los Principia Mathematica de Whitehead + Russel . El trabajo de Godel resolvió esa búsqueda negativamente, pero me imagino que la academia tardó un tiempo en adoptar plenamente esta noción; Incluso reconociendo plenamente la corrección de Godel, la gente aún recordaría las grandes ideas de Hilbert. Creo que Turing escribiendo solo dos décadas después de que Godel se dirigiera a su audiencia con este contexto en mente.

— BurnsBA

77

Me preguntaría si la mayoría de los matemáticos saben "mucho más sobre lógica matemática" que Turing. Pero es obvio que casi todos los humanos contemporáneos tienen una experiencia mucho más práctica de lo que las máquinas (y particularmente las computadoras) pueden hacer que él.

— alephzero

44

@alephzero ¡Eso no es lo que dije! Dije que el matemático promedio de hoy sabe más sobre lógica matemática que el matemático promedio durante el tiempo de Turing.

— David Richerby

14

Su argumento parece no ser que el argumento de Turing no sea bueno, sino que es innecesario o dirigido a un hombre de paja. Sospecho firmemente que Turing hizo que personas reales le hicieran argumentos como este, por lo que no creo que esté convirtiendo a un hombre de paja en nada. Como dice lagarto discreto en un comentario, Turing solo dice que un argumento particular contra las máquinas que nos sorprenden es malo. Su respuesta simplemente dice que este argumento es malo se ha vuelto aún más obvio con el tiempo. Dicho esto, las personas (aunque generalmente no son expertos) todavía hacen argumentos en este sentido hoy.

— Derek Elkins

Es la ausencia de cierre epistémico.

— Dan D.

19

Solo un ejemplo: dadas las reglas del ajedrez, cualquiera debería pensar de inmediato la mejor estrategia para jugar al ajedrez.

Por supuesto que no funciona. Incluso las personas no son iguales, y las computadoras pueden superarnos debido a sus mejores habilidades para sacar conclusiones de los hechos.

— Bulat
fuente

1

No estoy seguro de que sea un buen ejemplo. La gente no fácilmente pensar en estrategias de ajedrez, tan pronto como se comprende correctamente las reglas, y aunque estas estrategias son, evidentemente viciadas e inútil contra jugadores más experimentados y los motores modernos, que podrían haber sido lo suficientemente bueno contra motores de ajedrez de ordenador tempranos.

— Leftaroundabout

1

Mi punto es exactamente que no solo las personas son diferentes, sino que las computadoras también son diferentes, por lo que las computadoras estúpidas de la era de Turing no significan que siempre serán estúpidas. Sin embargo, es posible que necesite saber que Turing murió mucho antes de que las computadoras comenzaran a jugar al ajedrez.

— Bulat

1

Creo que este es un buen ejemplo, y captura la esencia del párrafo de Turing.

— copper.hat

@leftaroundabout Entonces ..., ¿es el ajedrez un empate cuando se juega de manera óptima o una victoria para las blancas o las negras? Más al punto: un descubrimiento relativamente reciente de que los finales extremadamente largos posiblemente conduzcan a una revisión de las reglas de 50 movimientos de sorteo, tal descubrimiento contaría como una "sorpresa" en el sentido de la cita

— Hagen von Eitzen

12

Esta es la idea de surgimiento , que es cuando el comportamiento complejo resulta de la interacción de reglas relativamente simples. Hay muchos ejemplos de esto en la naturaleza, como señala ese enlace. Colonias de insectos, bandadas de pájaros, bancos de peces y, por supuesto, conciencia. En una bandada de pájaros o banco de peces, cada individuo en el enjambre solo toma decisiones basadas en los demás que los rodean de inmediato, pero cuando reúne a un grupo de esas personas siguiendo todas esas reglas, comienza a ver un comportamiento más coordinado que esperarías sin un plan de nivel superior. Si vas a Youtube y ves demostraciones de enjambres de robots, ves que todos evitan golpearse y trabajan al unísono. Sorprendentemente, esto no tiene que lograrse haciendo que una sola computadora central coordine el comportamiento de cada robot individual, sino que se puede hacer usando una robótica enjambre donde, como los insectos, las aves o los peces, cada robot toma decisiones locales que conducen a la coordinación emergente.

Otra demostración interesante de comportamiento emergente es el Juego de la vida de Conway . Las reglas para el juego son extremadamente simples, pero pueden conducir a resultados muy fascinantes.

Un argumento tentador contra la capacidad de las computadoras para obtener inteligencia humana es decir que dado que solo pueden hacer precisamente lo que están programados para hacer, solo deben exhibir la inteligencia con la que los programamos. Si esto fuera cierto, entonces tampoco esperaríamos que el comportamiento relativamente simple de las neuronas genere inteligencia humana. Sin embargo, hasta donde podemos ver, este ES el caso y la conciencia es una propiedad emergente del procesamiento neuronal. Estoy seguro de que a Turing le hubiera encantado ver qué es posible hoy en día con el uso de redes neuronales artificiales

— mowwwalker
fuente

2

Gracias por mencionar el surgimiento. Agregas un poco de optimismo a mi pesimismo sobre la IA a través de la computación .

— smwikipedia

9

La gente podría suponer que si escribo un programa, y entiendo el algoritmo completamente, y no hay errores, entonces debería saber cuál sería la salida de ese programa, y eso no debería sorprenderme.

Turing dice (y estoy de acuerdo) que este no es el caso: el resultado puede ser sorprendente. La solución a un problema de vendedor ambulante puede ser sorprendente. La mejor manera de construir un sumador completo puede ser sorprendente. El mejor movimiento en un juego de ajedrez puede ser sorprendente.

— gnasher729
fuente

Esto explica por qué las computadoras podrían ser sorprendentes, que es la primera mitad de la cita, pero no aborda la parte de la cita que explica por qué un argumento particular que las máquinas no pueden sorprender es falaz.

— Lagarto discreto