¿Este argumento refuta la existencia de la superinteligencia?


8

Una superinteligencia es una máquina que puede superar todas las actividades intelectuales de cualquier ser humano, y esa máquina a menudo se representa en la ciencia ficción como una máquina que pone fin a la humanidad.

Cualquier máquina se ejecuta utilizando un algoritmo. Según la tesis de Church-Turing, cualquier algoritmo que pueda ejecutarse con una computadora moderna puede ejecutarse con una máquina de Turing. Sin embargo, un humano puede simular fácilmente una máquina de Turing. ¿No significa esto que una máquina no puede superar todas las actividades intelectuales, ya que también podemos ejecutar el algoritmo?

Es muy probable que este argumento sea defectuoso, ya que mi intuición me dice que la superinteligencia es posible. Sin embargo, no me queda claro dónde está la falla. Tenga en cuenta que este es mi propio argumento.


1
Una máquina de Turing puede ejecutar cualquier algoritmo en un tiempo infinito. Pero un humano tiene tiempo finito. Por lo tanto, no pueden ejecutar todos los algoritmos con lápiz y papel. No hay nada que impida que un agente ejecute su propio algoritmo (y ese algoritmo ejecuta otra instancia del agente) aunque a una velocidad más lenta para cada uno, ya que utiliza sus recursos computacionales.
Conor Cosnett

¿Qué tal 'superar' al humano mediante la simulación de su ejecución del algoritmo? No solo estoy complicando las cosas deliberadamente aquí: su noción de 'superar' parece estar bastante vinculada a la noción de simulación. Una definición más clara de lo que quiere decir con "superar" probablemente ayudaría a las personas a responder mejor la pregunta.
NietzscheanAI

Respuestas:


2

Creo que este argumento se basa en el hecho de que la inteligencia es una dimensión única cuando realmente no lo es. ¿Están realmente las máquinas y los humanos en el mismo nivel si una máquina puede resolver un problema complejo en una millonésima parte del tiempo que un humano puede?

También supone que la máquina de Turing sigue siendo el mejor modelo computacional para el período de tiempo en el que se encuentra, lo que no es necesariamente cierto para el futuro, es cierto hasta este momento.


¿Qué quieres decir con "dimensión única"?
nbro

1

Una computadora cuántica tiene una gran cantidad de estado interno que ni siquiera la máquina puede acceder directamente. (Solo puede muestrear el estado de la matriz). La cantidad de ese estado aumenta exponencialmente con cada bit cuántico involucrado en el sistema. Algunas operaciones obtienen aceleraciones locas de la computación cuántica: simplemente pones el cable cuántico a través de una puerta cuántica y has actualizado toda la matriz de una vez.

Simular una computadora cuántica con una clásica tomaría exponencialmente más tiempo para cada qubit. Con varias docenas de qubits, la potencia de cómputo de la máquina para algunas tareas ni siquiera podría ser abordada por una computadora normal, y mucho menos por una mente humana.

Relevante: mi respuesta sobre ¿Hasta qué punto pueden las computadoras cuánticas ayudar a desarrollar la Inteligencia Artificial?

Tenga en cuenta que con las computadoras cuánticas, ha ido más allá de los ceros y unos normales. Entonces necesita una máquina cuántica de Turing , que es una generalización de la clásica.


1
La máquina cuántica de Turing que usted vincula no es más computacionalmente expresiva que una TM tradicional: es simplemente (para algunos algoritmos) exponencialmente más rápida en operación. Por lo tanto, no está claro qué relevancia tiene esto para la pregunta del OP.
NietzscheanAI

@ user217281728 Al igual que la respuesta aceptada, estoy demostrando que un humano en realidad no puede "simular fácilmente una máquina de Turing"; una computadora cuántica absolutamente gritaría a un humano por estos algoritmos.
Ben N

1
Bueno, la pregunta ciertamente podría necesitar mucha aclaración, pero el punto central del concepto de simulación en CS es que no importa mucho cuánto demore la simulación, simplemente que se produce algo funcionalmente equivalente.
NietzscheanAI

Realmente depende de si 'superar' se define como 'puede hacer más intelectualmente' y 'hacerlo más rápido' o simplemente lo primero.
NietzscheanAI

¿Qué tienen que ver las "aceleraciones exponenciales" con la superinteligencia, que es una inteligencia general? Puede ser súper rápido al hacer ciertos cálculos y aún ser bastante específico.
nbro

0

La falla en su argumento es que "superar" no solo significa que debe poder ejecutar todos los algoritmos, sino que incluye una noción de complejidad, es decir, cuántos pasos de tiempo tomará para simular un algoritmo.

¿Cómo simula un algoritmo con una máquina Turing? Una máquina de Turing consiste en una máquina de estados finitos y una cinta infinita. Una máquina de Turing ejecuta un algoritmo, determinado por su estado inicial y la matriz de transición de estado, pero de lo que creo que está hablando es de las máquinas de Turing universales (UTM) que pueden leer "código" (que generalmente es una descripción de otra máquina de Turing). ) escrito en un "segmento de código" de la cinta y luego simular esa máquina en los datos de entrada escritos en el "segmento de datos" de la cinta.

Las máquinas de Turing pueden diferir en la cantidad de estados en sus máquinas de estados finitos (y también en el alfabeto que escriben en la cinta, pero cualquier alfabeto finito se codifica fácilmente en binario, por lo que esta no debería ser la gran razón de las diferencias entre las máquinas de Turing). Por lo tanto, puede tener UTM con máquinas de estado más grandes y UTM con máquinas de estado más pequeñas. El UTM más grande podría superar al más pequeño si usan la misma codificación para la parte del "código" de la cinta.

También puede jugar con el código utilizado para describir la TM que se simula. Este código podría ser C ++, por ejemplo, o podría ser una red neuronal con la fuerza de sinapsis escrita como una matriz. Qué descripción es mejor para el cálculo depende del problema.

Un ejemplo de comparación entre UTM con diferentes máquinas de estado: considere diferentes compiladores para el mismo lenguaje, por ejemplo, C ++. Ambos compilarán primero C ++ para ensamblar y luego ejecutarán otro UTM que lee y ejecuta el ensamblaje (su CPU física). Entonces, un mejor compilador ejecutará el mismo código más rápido.

Volviendo a los humanos frente a las computadoras, los humanos son redes neuronales que ejecutan algoritmos como los que escribiría en C ++. Esto implica una conversión costosa e ineficiente del algoritmo en movimientos de la mano. Una computadora usa un compilador para convertir C ++ a ensamblado que puede ejecutar de forma nativa, por lo que puede hacer una implementación mucho más eficiente del código C ++. Alternativamente, los humanos tienen un montón de neuronas, y el código neuronal, es decir, la fuerza de la sinapsis, es difícil de leer, por lo que las computadoras actuales aún no pueden ejecutar ese código.


Realmente no sabemos qué tan cerca está un modelo de ANN de la operación del cerebro humano. Por lo que sabemos, podría requerir los microtúbulos cuánticos de Penrose ...
NietzscheanAI

@ user217281728 Si bien lo que dices es cierto, creo que estás subestimando la investigación en neurociencia. La neurona McCullogh-Pitts es un modelo relativamente bueno para las neuronas, y entendemos bastante (a diferentes escalas) sobre cómo funcionan las neuronas, cómo funcionan los haces de nervios, cómo fluye la información en algunas regiones del cerebro. En cualquier caso, mi respuesta es un intento de explicar a un no experto las diferencias entre varios modelos de cómputo
Harsh

Bien, ahora aprecio que quisieras pintar una imagen simplificada.
NietzscheanAI
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.