¿Cuáles son las teorías actuales sobre el desarrollo de una IA consciente?

¿Cuáles son las teorías actuales sobre el desarrollo de una IA consciente? ¿Alguien está tratando de desarrollar una IA consciente?

¿Es posible que la conciencia sea un fenómeno emergente, es decir, una vez que agreguemos suficiente complejidad a nuestro sistema, se volverá consciente de sí mismo?

Para responder a esta pregunta, primero necesitamos saber por qué es difícil desarrollar IA consciente. La razón principal es que no existe una definición matemática o rigurosa de conciencia. Claro que tienes una idea de la conciencia a medida que la experimentas y podemos hablar de zombis filosóficos, pero no es un concepto tangible que se pueda descomponer y trabajar. Además, la mayoría de la investigación actual en IA es principalmente un enfoque pragmático en el sentido de que uno está tratando de construir un modelo que pueda funcionar bien de acuerdo con alguna función de costo deseada. Este es un campo muy grande y emocionante que abarca muchos problemas de investigación y cada nuevo hallazgo se basa en teoría matemática o en evidencia empírica de un nuevo algoritmo / construcción de modelo / etc. Debido a esto,

Entonces, para responder a su pregunta, nadie está tratando de hacer una IA "consciente" porque aún no sabemos qué significa esa palabra, sin embargo, eso no impide que las personas hablen de ella.

¿Qué es la conciencia? Existen algunos desafíos reales para establecer la conciencia como un objetivo, porque todavía no tenemos tanta comprensión científica de cómo lo hace el cerebro o qué equilibrio debe haber entre la memoria a largo plazo, la memoria a corto plazo, lo implícito trabajo de interpretación, los modos conscientes contrastantes de procesamiento automático y procesamiento deliberado (S1 y S2 de Khanemann). John Kihlstrom (psicólogo emérito en Berkeley) tiene una conferencia sobre Conciencia disponible en iTunesU que puede consultar. Carnegie-Mellon Uni tiene un modelo llamado ACT-R que modela directamente comportamientos conscientes como prestar atención.

¿Qué podría limitar nuestra comprensión de ello? La filosofía ha estado considerando la cuestión de la conciencia durante mucho tiempo. Personalmente me gustan Hegel y Heidegger (filósofos). Ambos son muy difíciles de leer, pero Heidegger (interpretado por Hubert Dreyfus) útilmente criticaron la 'vieja usanza AI' proyectos de los años setenta y señaló cómo muchotrabajar allí es solo interpretar una entrada visual. A menudo, Hegel es difamado, pero para verlo bien interpretado, consulte las conversaciones de Robert Brandom con LMU sobre la lógica de la conciencia y Hegel como uno de los primeros pragmáticos de Sellers. Si la conciencia se aferra a la verdad y la certeza, emprende 'un camino de duda, o más propiamente una carretera de desesperación', a lo largo del cual nunca se coloca por encima de la corrección. Hay algo sobre el tratamiento de la conciencia de Hegel en términos recursivos, sin sucumbir a un retroceso vicioso, que creo que se confirmará antes del final.

Desarrollos recientes. Los enfoques de aprendizaje profundo y los éxitos pragmáticos del presente son emocionantes, pero será interesante ver cuán lejos pueden llegar al integrarse y generalizarse necesariamente de los pequeños conjuntos de información a los que están expuestas las mentes humanas reales. Si bien el aprendizaje profundo y la minería de datos son muy visibles, los enfoques simbólicos también están mejorando y son más variados. Pero hay una falta de interpretación teórica general que permita generalizaciones.

Dos agarraderas de teoría grande. Si tuviera que elegir un proyecto al que pensara que valía la pena asistir, Giulio Tononi (et al) ha establecido una modernización muy agradable del problema en ' Teoría de la información integrada ', pero es posible que desee ampliarlo con algo como Rolf Pfeifer 's' Cómo el cuerpo da forma a la forma en que pensamos ', porque parte de la' información integrada 'está implícita en tener brazos y piernas, ojos y nariz (puesto allí por la información que acumula el trabajo de la evolución). Pero ha habido mucho trabajo bueno que ha sido hecho: los profesionales escriben documentos más rápido de lo que puedo leerlos.

Más específicamente a su pregunta, hay intentos de simular cerebros humanos con la esperanza de que el objetivo general ayude a financiar la investigación y producir respuestas a cada párrafo anterior.

CERA-CRANIUM es un ejemplo de arquitectura cognitiva para generar conciencia de máquina (MC). Hacia un comportamiento consciente en personajes de juegos de computadora, 2009 Se realizó como un sistema de pizarra que es capaz de ejecutar tareas enhebradas. La implementación en sí misma funciona con lenguaje natural. Eso significa que un agente de CERA-CRANIUM tiene una variable llamada "Tengo miedo", y si esta variable se establece en Verdadero, entonces la emoción se activa. Por lo tanto, no es una conciencia real, sino que tiene más en común con los estados internos de los personajes de "Los Sims".

El aspecto interesante es que la "conciencia de máquina" no es tan esotérica, como parece. Google Scholar encuentra alrededor de 3k artículos al respecto. En la mayoría de los casos, el desarrollo comienza con el objetivo de implementar emociones para los personajes del juego que luego se extendieron a pensamientos generales en un humano virtual.

Además de la excelente respuesta de Jaden "nadie está tratando de hacer una IA" consciente "porque todavía no sabemos qué significa esa palabra" Me gustaría agregar que la palabra "todavía" es altamente optimista.

Es muy problemático y probablemente imposible distinguir entre un ser consciente y un ser que se comporta exactamente como si fuera consciente. Los filósofos han estado luchando con eso durante siglos; algunos incluso propusieron el solipsismo, que es una filosofía de "Vivo en la Matriz". En particular, ¿cómo puede saber si su amigo de la infancia o su cónyuge o cualquier otra persona es un ser consciente en lugar de una encarnación de la IA que actúa exactamente como lo haría un ser consciente?

Es posible, por supuesto, ir "si camina como un pato y grazna como un pato, entonces es un pato". En ese caso, una prueba de Turing que pasa AI se consideraría automáticamente consciente. Sin embargo, la mayoría de la gente no aceptaría los criterios de conciencia del pato; de lo contrario, muy pronto tendrían que llamar a sus electrodomésticos operados por Alexa conscientes.

Mis dos centavos son básicamente los mismos que los de Jaden, excepto que soy más pesimista sobre entender lo que es la conciencia.

La conciencia es la capacidad de ser consciente de sus propios pensamientos, sus alrededores inmediatos, sentimientos y nada más. Es el mecanismo de nuestro cerebro para controlar nuestro tipo más bajo de pensamientos, el que se basa en asociaciones y emociones. La conciencia es observar nuestros pensamientos y sentimientos al igual que observamos el mundo real con nuestros ojos. No es complicado La verdadera pregunta no es si las máquinas son capaces de tener conciencia sino si son capaces de tener emociones.

Introducción : actualmente, observamos que los sistemas actuales mejoran en casi todas las tareas especializadas que los humanos. Además, vemos que los científicos trabajan para mejorar los sistemas actuales en tareas menos especializadas (comenzando por: reconocimiento de letras, pasando a: reconocimiento de animales, reconocimiento de especies, reconocimiento de actividad, reconocimiento de imágenes en movimiento, ...).

Conclusión : No hay razón para no creer que los sistemas asistidos por redes neuronales no mejorarán en ninguna tarea en el futuro.

Pregunta :

¿Qué es la conciencia?

Creo que el problema actual sobre la autoconciencia es un problema de definición. No estaba encontrando mucha literatura sobre este tema, a pesar de lo filosófico (que, desafortunadamente, es completamente inútil en este contexto).

Debido a la falta de literatura, me gustaría hacer mi propia definición. Afortunadamente, sabemos por observación que todos los animales clasificados "inteligentes" tienen cierto grado de "autoconciencia" y son curiosos. Por biología sabemos que la curiosidad es un mecanismo de motivación para un comportamiento de observación / razonamiento / prueba. Ahora concluimos que la autoconciencia es obviamente el mismo mecanismo aplicado en sus propios procesos de comportamiento / pensamiento. Simplemente imaginamos un posible resultado de una acción dada que podemos realizar, y lo evaluamos.

Por lo tanto, la conciencia debe ser el resultado de un sistema de motivación dado que favorece la curiosidad y un sistema de evaluación no especializado suficientemente complejo.

Supongo que este sistema de motivación es muy fácil de implementar. El problema actual es que simplemente no existe un sistema que sea lo suficientemente versátil como para "resolver" una tarea determinada. Las redes actuales siguen siendo demasiado especializadas.