¿Es la singularidad algo que debe tomarse en serio?

10

El término Singularidad se usa a menudo en los principales medios para describir la tecnología visionaria. Fue introducido por Ray Kurzweil en un libro popular The Singularity Is Near: When Humans Transcend Biology (2005).

En su libro, Kurzweil ofrece una perspectiva del futuro potencial de la humanidad que incluye nanotecnología, computadoras, modificación genética e inteligencia artificial. Argumenta que la ley de Moore permitirá a las computadoras un crecimiento exponencial que resulte en una superinteligencia.

¿Es la singularidad tecnológica algo que los desarrolladores de IA toman en serio o esta teoría es solo una carga de exageración popular?

— Bucky Rogerson
fuente

El debate sobre la singularidad es un subtema en el llamado movimiento neoludita. Ese es un debate filosófico sobre el avance tecnológico con una perspectiva pesimista. Bill Joy ha publicado un famoso ensayo en la década de 2000 en el que argumenta en contra de la tecnología. El movimiento neoludita es una especie de antiideología para el pensamiento más fuerte, más rápido e inteligente de Silicon Valley. La singularidad es una mezcla de ideología pro y contra tecnología con el objetivo de moderar el debate.

— Manuel Rodriguez

2

Creo que será muy difícil encontrar una base científica sólida relacionada con la IA que sugiera que Singularity es incluso remotamente posible.

— Andreas Storvik Strauman

Te pueden interesar estas preguntas y respuestas: ai.stackexchange.com/questions/7337/…

— Neil Slater

8

Puedo decir que entre los investigadores de IA con los que interactúo, es mucho más común verlo como una especulación salvaje que como un hecho establecido.

Esto se ve confirmado por encuestas de investigadores de IA , con un 80% que piensa que surgirán formas fuertes de IA en "más de 50 años" o "nunca", y solo un pequeño porcentaje piensa que tales formas de IA están "cerca".

Los desarrolladores de software no son lo mismo que los investigadores de IA, y he descubierto que el mito de la singularidad está mucho más extendido entre los desarrolladores. Suena bien: las computadoras se vuelven cada vez más rápidas, en algún momento serán más rápidas que los cerebros, en ese punto simplemente simulamos cerebros. Poco después, simulamos algo mejor que el cerebro.

Sospecho que las razones por las que los investigadores de IA son menos optimistas se basan en el hecho de que todavía no tenemos una buena comprensión de la inteligencia humana, o incluso una comprensión suficiente del cerebro para simularla. Por ejemplo, en las últimas dos semanas hemos descubierto tipos de células cerebrales previamente desconocidos . Esto da la impresión (correcta) de que incluso si tuviéramos una computadora lo suficientemente rápida, no estamos en absoluto cerca de poder simular con precisión un cerebro humano. Realmente no sabemos qué es un cerebro humano.

Incluso si supiéramos eso, las simulaciones son necesariamente con pérdida. Es posible que no tengamos buenas técnicas de simulación. Incluso si tuviéramos buenas técnicas, podemos simular el cerebro y descubrir que nuestra simulación no se comporta como se esperaba por razones que no entendemos. Esto es muy probable al simular nuevos sistemas. En cierto sentido, los defensores de la Singularidad se parecen a las personas que predicen que el control del clima estaba cerca en la década de 1940. Después de todo, podríamos simular patrones climáticos simples ya entonces, y generar pronósticos que funcionaron. ¿Cuánto más complejo podría ser realmente generar pronósticos perfectos?

— John Doucette
fuente

2

Esta declaración se lee como el comienzo de un próximo invierno de IA en el que los investigadores de IA rechazan sus sueños de construir máquinas inteligentes y admiten que no tienen nada que ofrecer. Creo que podemos describir la realidad un poco más optimista. En el proyecto Blue brain, la inmortalidad es uno de los objetivos, y se puede alcanzar con nanobots. Son capaces de copiar la mente de un cerebro a otro cerebro. Según los futuristas, esto se hará realidad en el año 2030. Al menos la Unión Europea cree que esto tiene sentido y apoya el proyecto con mil millones de dólares. ¿Es esa cantidad lo suficientemente grave?

— Manuel Rodríguez

2

@ManuelRodriguez Creo que no es tanto un invierno como una visión realista y madura de la tecnología. Realmente podemos y realmente estamos resolviendo muchos problemas difíciles con la IA en este momento. No es razonable saltar de eso a la inmortalidad, los nanobots y las copias cerebrales. Tal vez tendremos cosas como esas eventualmente, pero esas tecnologías ni siquiera están cerca de ser funcionales. El apoyo para la investigación básica hacia ellos es bueno, pero no es que la IA careciera de fondos en los años 50 y 60. Gastar dinero no significa que tendremos inmortalidad y cerebros clonados en 10 años. La idea es risible.

— John Doucette

No digo que personalmente crea en la inmortalidad dentro de 10 años. Solo quiero dejar en claro que los llamados proyectos de "Emulación de cerebro completo" como el Proyecto del cerebro humano de la UE (1 billón de USD), la iniciativa BRAIN de los EE. UU. (4,5 billones de USD en total) y el Proyecto del cerebro de China (200 millones de USD) tienen singularidad como su objetivo El gobierno no gastaría tanto en investigación si tuviera dudas de que los Nanobots sean posibles.

— Manuel Rodríguez

@ManuelRodriguez Seguro que lo harían. Incluso un proyecto fallido que cuesta mucho dinero puede resultar en una investigación muy valiosa.

— bosque

3

Hay al menos un científico de IA muy importante y serio que aparentemente cree en la creación de verdadera inteligencia general artificial y posiblemente superinteligencia: Jürgen Schmidhuber, coautor del LSTM , entre muchas otras contribuciones importantes. De hecho, recientemente fundó NNAISENSE para este propósito final, es decir, para construir una inteligencia general artificial de propósito general. En su charla Cuando las máquinas creativas superan al hombre , en TEDxLausanne, Schmidhuber habla sobre la singularidad (también conocida como omega ). Ver también su artículo web ¿La historia está convergiendo? ¿Otra vez? (2012) o el papel2006: Celebrando 75 años de IA - Historia y perspectivas: los próximos 25 años (2007).

— nbro
fuente

Esto es cierto, pero definitivamente está en la minoría de investigadores de IA en esto. Es cierto que Schmidhuber está bien acreditado, pero no creo que la mayoría de los investigadores de IA tomen en serio sus puntos de vista sobre este elemento de la IA.

— John Doucette

1

@ JohnDoucette Sí, estoy de acuerdo contigo. Solo quería señalar este interesante caso excepcional.

— nbro

0

Para estar en la misma página, debe dar referencias sobre la "singularidad tecnológica", ya que comprende múltiples campos (matemáticas, estadística, filosofía de la ciencia, epistemología, sociología, política, economía, por mencionar algunos).

En general, cuando considera conceptos relacionados con adj + ai (donde adj = {débil, fuerte, completo, estrecho, ...}), el aliento de especulación es bastante grande y en fieri , por lo que como desarrollador (donde para desarrollador I supongo que trabaja en problemas relacionados con la codificación, no el gerente de proyecto en google x y similares) No estaría preocupado, a menos que esté disfrutando de una taza de té con sus colegas durante un descanso.

— Cerveza inglesa
fuente