lunes, 24 de octubre de 2011

¿Es posible la conciencia artificial?



Resumen.

¿La inteligencia y la conciencia están relacionadas? La conciencia puede estar activada incluso sin contenidos en ella, así lo afirman los meditadores. Pero parece difícil de creer que podamos resolver un problema difícil sin estar conscientes. ¿Es la conciencia reducible a algoritmos de computador?

¿Qué es la conciencia y cómo se relaciona con el pensamiento?
Es difícil definir la conciencia pues no es ningún “objeto” sino más bien lo podemos considerar una experiencia subjetiva. Así, cuando despertamos sentimos que estamos conscientes, y en los primeros instantes del despertar todavía no hay pensamientos. ¿Qué relación hay entre pensamientos y conciencia? Podemos estar conscientes sin pensar, aunque no es fácil permanecer en ese estado, excepto quizás si somos meditadores experimentados. Y podemos pensar estando inconscientes: lo hacemos cada noche mientras dormimos, pues los sueños son pensamientos dirigidos por la mente inconsciente. Parece por tanto que pensamiento y conciencia son relativamente independientes.

Contenidos de la conciencia
Distingamos también la conciencia de los contenidos de la conciencia: la primera es el estado subjetivo que es necesario para "ser-consciente-de" los contenidos de la conciencia. ¿Y cuáles son estos contenidos? Evidentemente pueden contener nuestras percepciones sensoriales; de hecho pueden contener al propio cuerpo: somos conscientes de nuestro cuerpo a través de nuestros sentidos. También pueden contener nuestros recuerdos y nuestros pensamientos. Pero por otro lado la conciencia en sí puede experimentarse incluso sin tener ningún contenido, simplemente como conciencia pura, aunque de nuevo hay que decir que es un estado poco habitual excepto en los meditadores avanzados.

Inteligencia y conciencia
Por otro lado tenemos la inteligencia, que entendemos como la capacidad de percibir relaciones entre hechos, datos y conocimientos para generar nuevos conocimientos. Nos preguntamos ahora, ¿son independientes la inteligencia y la conciencia? De nuevo observamos que pueden haber momentos de una conciencia intensa sin que la inteligencia trabaje en absoluto. En cambio cuesta ver que la inteligencia pueda funcionar inconscientemente, pero no obstante es conocido el hecho de que hay personas que, para resolver un problema complicado que se ha resistido a ser resuelto después de arduas horas de trabajo consciente, se lo llevan a la cama (se suele decir que lo consultan con la almohada) y a veces resulta ser que sueñan con la solución y se despiertan recordándola... y quizá gritando ¡Eureka! Así que, aunque tampoco es habitual, parece ser que la inteligencia puede funcionar inconscientemente resolviendo incluso problemas complejos.

También es cierto que la conciencia tiene distintos grados: podemos estar desde totalmente inconscientes (sueño profundo, anestesia) pasando por semi-inconscientes (sueño ligero) hasta altamente conscientes (como cuando tenemos que afrontar una decisión difícil o un peligro físico). Y cuando dormimos y soñamos también podemos estar levemente conscientes, así que podríamos decir que cuando nos llevamos un problema a la cama quizá se resuelve con algún grado de conciencia, pues parece difícil aceptar que podamos resolver nada estando en la inconsciencia profunda.

Sabemos distinguir objetivamente la conciencia
Hemos definido la conciencia como una experiencia subjetiva, esto es, una percepción personal que sólo depende del propio sujeto y que no es verificable por otros sujetos, en contraste con las experiencias objetivas, que pueden ser compartidas y verificadas por diversos sujetos. Ahora bien, resulta que somos capaces de percibir directamente que alguna otra persona está realmente consciente o no lo está. Podemos decir que el hecho de que una persona esté consciente es un hecho objetivo, a pesar de que su propia conciencia sea una experiencia subjetiva. Debe de ser que hay un modo de comportamiento característico del estado consciente al que somos sensibles.

¿Por qué la naturaleza ha creado la conciencia? 
El cerebelo es nuestro cerebro "más antiguo", y capaz de llevar a cabo acciones muy complejas de forma automática e inconsciente. Quizá la evolución se podría haber detenido ahí, con criaturas dirigidas por mecanismos de control completamente inconscientes Pero no ha sido así, y la naturaleza ha decidido que evolucionen seres conscientes como nosotros ¿Por qué? Ha de haber alguna ventaja selectiva en la adquisición de conciencia. Una podría ser facilitar el desarrollo de la inteligencia, que tal como hemos especulado bien podría necesitar de la conciencia para funcionar. Otra no menos importante es el desarrollo de la auto-conciencia que nos lleva a reconocer nuestro propio “yo”.

Algoritmos, inteligencia artificial y conciencia 
Supongamos que somos capaces de fabricar un ordenador que sea una réplica exacta, en cada neurona y sinapsis, del cerebro. Es un enorme reto tecnológico, pero seguramente lograrlo sólo es cuestión de tiempo. ¿Esa réplica poseerá conciencia? Los defensores de la tesis denominada de “inteligencia artificial dura” sostienen que sí. Después de todo el negar esa posibilidad daría un estatus “inmaterial” a la conciencia que repugna a muchos pensadores. 
Por otro lado, ¿qué algoritmo se ejecutaría en ese cerebro electrónico? Hay evidencias que apuntan a que ningún algoritmo, por complejo que sea, puede simular la inteligencia y la conciencia humana. Tenemos por ejemplo las demostraciones matemáticas: la visión directa de la verdad que es necesaria para entender ciertas demostraciones matemáticas se ha demostrado que no es computable usando máquinas de Turing, que a su vez son capaces de simular a cualquier algoritmo imaginable. Por tanto no podemos programar un ordenador que sustituya a un matemático y demuestre teoremas (éste fue uno de los famosos problemas que David Hilbert propuso a principios del siglo XX, la automatización de las demostraciones, la respuesta fue negativa).
Por tanto suponiendo que consigamos fabricar un hardware que emule al cerebro humano, todavía nos quedaría el problema de cómo programarlo. Hay otro punto de vista que apoya la imposibilidad de que un algoritmo copie a la conciencia: los programas de ordenador se guían por leyes estrictamente lógicas (booleanas) mientras que las personas está claro que somos bastante ilógicos. Bromas aparte, la propia matemática tampoco puede reducirse a la lógica (otro de los problemas propuestos por Hilbert, Kurt Gödel demostró que no era posible), así que volvemos a encontrar que no podemos programar a un matemático. Evidentemente el razonamiento es generalizable a la ciencia en general: ver por ejemplo mi artículo “La ciencia va escasa de lógica”.

Conclusiones
Hemos definido la conciencia como una experiencia subjetiva, pero reconocible en otros sujetos. Parece ser que la inteligencia depende de la conciencia, pero no está clara la dependencia contraria. Por otro lado el contenido de la conciencia puede abarcarlo todo: el exterior, el propio cuerpo, los pensamientos y la noción del “yo”. Además la conciencia puede estar activada incluso sin contenidos en ella, así lo afirman los meditadores. La Naturaleza nos ha dotado de conciencia sin duda por que debe conllevar algunas ventajas evolutivas; hemos supuesto que son el desarrollo de la inteligencia y del auto-conocimiento del yo. Pero esta inteligencia consciente no es reducible a algoritmos de computador, y por tanto actualmente no vemos la posibilidad, ni siquiera en principio, de emularla artificialmente; seria necesario un nuevo paradigma de computación, distinto al de las máquinas de Turing actuales, y con una lógica distinta a las conocidas y usadas actualmente.

Referéncias:  La nueva mente del emperador, Roger Penrose.

5 comentarios:

  1. Se te olvido que un recien nacido no tiene consiencia y que esta se aprende a medida se crece y asi que se podria decir que la consiencia emerge y que no dejamos ser maquinas biologicas por mucha ilogica se trate de usar y los ordenadores cuanticos estan a la vuelta esquina por no decir la propia biologa /microbiologia es el siguiente boom tecnologico con lo que se podrian fabricar cerebros los cuales se podian programar /enseñar, asi que la pregunta no es esa, es cuando lo conseguiremos y las consecuencias de ello por no decir que de verdad somos concientes o solo somos los restos de una estrella zarandeados por la entropia del universo.

    ResponderEliminar
  2. Creo que el recien nacido sí tiene consciencia pero no auto-conciencia, eso le llega sobre los dos años, creo. O sea que es consciente pero no lo sabe. Y tiene contenidos de conciencia (impresiones sensoriales) pero no los entiende. Fíjate además que no digo que sea imposible crear conciencia artificial, lo que digo es que la tecnologia de la programación actual no nos sirve para ello, que habría que inventar algo nuevo, desconocido hasta ahora, y eso igual puede ser mañana que dentro de 100 o de 1.000 años...o nunca.

    ResponderEliminar
  3. Habría, creo, que considerar otros problemas relacionados. Por ejemplo, desde Aristóteles se considera que el lenguaje (o la facultad discursiva) es una de las características distintivas del hombre respecto del resto de los animales (así como de ser bípedo respecto del resto de los implumes).

    Una inteligencia artificial, suponemos, debería poder hablar. Ponerse a hablar, no es lo mismo que responder solamente. Seguramente algunos tenaces iluministas creeran que el hombre en realidad no habla espontaneamente, sino que todo lo que dice es una respuesta, de modo que una inteligencia artificial no tendría porqué hacer otra cosa distinta.

    Entonces llegamos a si es posible generar el "deseo artificial" (hace un tiempo escribí un post sobre esto, por eso se me ocurrió comentar).

    Pero el problema que podría surgir es la de qué noción de objeto (sin la cual no se llegadría a la de deseo) tendría nuestra máquina. ¿Cómo estaría definida? Si damos una definición conceptual del objeto correríamos el riesgo de que "objeto" no sea otra cosa que un signo simplificado de alguna frase más extensa, sin contenido semántico alguno, una mera noción sintàctica. En ese caso ocurriría que no sería verdaderamente un objeto sino un simulacro. Similar sería el caso de otros conceptos como el de falta.

    Saludos

    ResponderEliminar
  4. Gracias por participar en el blog.
    En efecto coincido contigo en que el lenguaje puede ser un distintivo crucial de la inteligencia humana. El lenguaje en sí mismo es meramente un medio de comunicación de información. La inteligéncia artificial produce autómatas capaces de procesar nuestro lenguaje - dentro de ciertos límites - e interpretarlo para, por ejemplo, ejecutar nuestras órdenes. Pero esta automatización no tiene nada que ver con mantener una conversación inteligente,en el sentido de la prueba de Turing.
    Tal como comentas, éste lenguaje generado por la IA no tiene un verdadero sentido semántico, y creo que es así porque simplemente la máquina no tiene conciencia de lo que está diciendo; de esta forma, conectamos el problema de la conciencia con el del lenguaje inteligente: ¿puede existir una conversación inteligente entre dos seres privados de conciéncia? No me parece viable. En cambio, ¿puede existir la conciéncia sin lenguaje? Eso sí me parece posible: un ser inteligente pero aislado de sus congéneres que no se hubiera comunicado nunca con nadie no tendría la habilidad lingüistica necesaria para conversar, aunque si la potencialidad para llegar a hacerlo. Así que podemos decir que la conciencia es prerequisito para el lenguaje inteligente.

    Saludos.

    ResponderEliminar
  5. La conciencia yo creo que ha de ser natural, y consiste en un conjunto de información relativo a uno mismo y sus procesos ...

    Pero que sería de una maquina con conciencia de si misma, que vea la muerte en un desenchufe, tiene que ser patético...

    Yo creo que la conciencia o información relativa a tus estados mentales, tiene que ser natural, o que miedo se pasaría, viendo que pueden "matarte"... entendida la conciencia desde el punto de vista humano claro...!!!

    ResponderEliminar

Los comentarios por favor que sean sobre el tema del artículo, y siempre para completar, o para preguntar. No se admitiran comentarios que no cumplan estas premisas ni por supuesto que sean ofensivos bajo ningun concepto.

Discutir, dialogar, convencer: del razonamiento estrecho, luchador al razonamiento ámplio, amable

La verdad absoluta no está disponible Releyendo Logicomix una épica búsqueda de la verdad , un fantástico cómic sobre el principal tema de ...