Chamanes y robots

Selección

Robots / dossier / Febrero de 2023

Roger Bartra

 Leer pdf

Los transhumanistas suelen pensar que la singularidad tecnológica que producirá unos seres poshumanos no está muy lejana. Creen que dentro de apenas unos decenios estaremos presenciando estas formidables mutaciones. Confían en la aceleración exponencial de las tecnologías biocibernéticas. Creo que se equivocan en cuanto a la proximidad de las mutaciones; de momento, los transhumanistas parecen más bien unos chamanes que viajan al futuro y predican la sustitución de órganos por prótesis tecnológicamente sofisticadas con el objeto de llegar a una condición utópica. Hay un ingrediente religioso en la espera del advenimiento de la Singularidad, con mayúscula, que abrirá la puerta a una nueva época. Lo que nos hace humanos es otra singularidad, con minúsculas, la de las prótesis artificiales que constituyen la cultura y el entorno social que los humanos hemos creado. La singularidad que reúne en una sola red la palabra con la sensibilidad. La Singularidad de los transhumanistas parece consistir en la transformación de porciones de nuestro exocerebro artificial en una nueva artificialidad mecánica interna, implantada con el objeto de “mejorar” y “aumentar” las capacidades humanas. En su forma extrema, esta transformación sería una reducción sintética de partes del espacio social y cultural simbólico que nos rodea a un conjunto de dispositivos cibernéticos internos. El “hombre aumentado” del transhumanismo estaría dotado de una continuación de la artificialidad propia del exocerebro por medios electromecánicos y cibernéticos. Los primitivos amuletos y conjuros, junto con los rituales médicos que aumentan las potencialidades curativas de los fármacos y las cirugías, serían el embrión que daría paso a los nuevos humanos del futuro, quienes gracias a la magia de la tecnología interiorizarán las propiedades del exocerebro, marginarán el cuerpo biológico y eliminarán las formas de conciencia individual que conocemos. Posiblemente serían unos nuevos zombis, desposeídos de la molesta sensibilidad que nos impone el cuerpo biológico. […]

Bill McConkey, *Mechanical Man*, s/f. Wellcome CollectionBill McConkey, Mechanical Man, s/f. Wellcome Collection


Yo creo que la singularidad que ha de generar una conciencia artificial está muy lejos. Pero para el inteligente e ingenioso profeta poshumanista, Ray Kurzweil, los primeros indicios de la singularidad se podrán ya ver hacia el año 2045.1 Para pronosticar este desenlace tan cercano Kurzweil no se basa en los logros técnicos actuales, sino en una supuesta ley de aceleración de resultados de la investigación, según la cual los descubrimientos crecerían a un fabuloso ritmo exponencial. Ante esta velocidad de los avances técnicos y científicos, asume que la singularidad deberá surgir muy pronto, aunque no se sabe de dónde. Supone que la inteligencia artificial crece a tal ritmo que las máquinas nos permitirán pronto liberarnos del cuerpo biológico.

​ Por supuesto, al igual que la mayor parte de los ingenieros que crean inteligencias artificiales, cree que el cerebro humano y las máquinas comparten algoritmos y mecanismos computacionales que serán la base del singular salto. Ya lo había expuesto uno de los fundadores de la IA, Marvin Minsky: el cerebro es una máquina de carne, pero una máquina a fin de cuentas. Por ello se cree que se podrá descargar el contenido mental del cerebro en una computadora.

​ Para explorar esta dimensión que parece fantástica quiero viajar a un futuro lejanísimo con la ayuda de un hermoso texto publicado en 1988 por Jean-François Lyotard.2 El filósofo francés afirmó que el único problema verdaderamente serio al que se enfrenta la humanidad no son las guerras, los conflictos, las tensiones políticas, los cambios de opinión, los debates filosóficos o las pasiones. El gran problema es que el Sol está envejeciendo y que dentro de 4 500 millones de años explotará, con lo que se acabará todo rastro de nuestro sistema planetario y de la vida en la Tierra.3 La única escapatoria, afirma Lyotard, será encontrar la manera de simular las condiciones que permitan que el pensamiento sea posible materialmente cuando hayan desaparecido las condiciones que sostienen la vida en la Tierra. La solución consiste en manufacturar un hardware capaz de “nutrir” un software tan complejo como el cerebro humano actual. Esto es precisamente lo que se proponen hacer los constructores de IA y de robots. Pero el pensamiento humano no funciona de manera binaria ni con bits de información: opera de manera analógica y no en forma lógica. El reto consiste en crear algo mejor que un pobre fantasma binarizado de lo que fue antes el cerebro.

​ Lyotard agrega un problema más, mucho más preocupante: el hecho de que el pensamiento y el sufrimiento se traslapan. Los matices y los timbres cuando se pinta o se compone música, o las palabras y las frases cuando se escribe, nos son dados pero al mismo tiempo se nos escapan entre los dedos. Todo ello “dice” algo diferente a lo que quisimos “significar”, forma parte de un mundo opaco, lleno de vaciedades, que produce sufrimiento. Recuerda que el pensamiento tiene que estar inscrito en la cultura. Lyotard se pregunta si las máquinas pensantes sufrirán o solamente tendrán memorias. Yo agregaría que, además del sufrimiento, el pensamiento va acompañado del placer y de otras emociones.

​ Hay una dimensión fundamental que preocupa a Lyotard y que rara vez toman en cuenta quienes se dedican a la IA. El cuerpo humano manifiesta diferencias sexuales y de género. El filósofo cree que hay una incompletitud no solo en los cuerpos sino también en las mentes. La incompletitud de la femineidad y la masculinidad no solo es corporal: radica también en el pensamiento, y se intenta superar mediante la atracción, gracias a la poderosa fuerza del deseo. Lyotard se pregunta si la inteligencia que se prepara para sobrevivir a la explosión solar conllevaría esta fuerza dentro de sí en su viaje interestelar. Las máquinas pensantes tendrán que nutrirse no solo de radiación sino del irremediable diferendo del género. El pensamiento postsolar debe estar preparado ante la inevitabilidad y la complejidad de la diferencia y de la separación sexual si quiere sobrevivir a la amenaza de la entropía.

Erupción solar, 2017. NASA. Marshall Space Flight Center/FlickrErupción solar, 2017. NASA. Marshall Space Flight Center/Flickr

​ Se dirá que, siendo la humanidad tan joven, pues tiene apenas unos 100 mil años de edad, los más de 4 mil millones de años que nos restan serán más que suficientes para inventar una alternativa técnica que nos libere del cuerpo terrenal que depende de la luz solar y que nos lleve a un viaje cósmico hacia nuevas condiciones de existencia. Sin embargo, la necesidad de desprendernos del cuerpo podría llegar antes que la explosión solar, si por ejemplo ocurriese una maligna mutación de un virus que obligase a los humanos a mudar su pensamiento del soporte biológico que lo ha albergado desde los orígenes.

​ Todo esto es una inquietante ficción científica, lejana pero estimulante. Sin embargo, los problemas planteados por Lyotard son reales: los constructores de IA se enfrentan al reto de introducir en sus programas y en sus máquinas el enigma de los sentimientos y el fenómeno de la sexualidad. Pero estos son unos problemas muy difíciles que rara vez son abordados.

​ La idea de máquinas sensibles ha sido muy explorada por la ciencia ficción y generalmente se expresa bajo la forma de alguna técnica capaz de cargar la mente que se aloja en el cerebro a una computadora. Es el sueño de los transhumanistas que aspiran a que los humanos se liberen de su soporte blando y húmedo, hagan a un lado la carne, para insertarse en un mecanismo duro y seco que no requiera de ningún proceso biológico para obtener energía. Desde luego, se suele pensar en máquinas emocionales que, a pesar de su sequedad y dureza, serían capaces de gozar y sufrir gracias a esa sensibilidad que nos hace humanos, y que al mismo tiempo nos enlaza con el resto de los animales.

​ Algunos transhumanistas llevan colgado en el cuello un medallón que recuerda esos colguijes o amuletos en los que se interesó el médico Qusta ibn Luqa. Este medallón identifica al portador como miembro de una institución criogénica dedicada a mantener cadáveres a muy bajas temperaturas para revivirlos cuando se descubra un método para curar la enfermedad que provocó sus muertes, o bien en espera de que algún día aparezca una tecnología capaz de copiar el cerebro muerto y cargar la información a una computadora. El medallón contiene la inscripción no de un conjuro sino de las instrucciones precisas para tratar el cuerpo en caso de muerte y enviarlo a la institución que lo guardará congelado durante siglos. En algunos casos solamente se conserva congelada la cabeza, en espera de que algún día se pueda descargar el contenido del cerebro a una máquina que le proporcione una nueva vida cibernética a la persona. No parece que la singularidad que permita esta operación ocurra pronto, pero sin duda es una alternativa ante el reto que describe Lyotard: para lograr esta hazaña la humanidad tiene mucho tiempo antes que dentro de 4 millones y medio de milenios desaparezca el sistema solar. Claro que es muy probable que la singular descarga de una conciencia en una máquina no se pueda realizar más que con seres vivos, por lo que los cuerpos que esperan congelados su resurrección no cumplirán las esperanzas de los transhumanistas que optaron por la criogenia.

​ Me parece que las máquinas inteligentes no llegarán a tener una conciencia similar a la humana sin tener alguna clase de sensaciones, sentimientos y emociones. Una IA, sea que su conciencia provenga de una descarga del cerebro de un ser humano o que haya sido construida a partir de un diseño nuevo, no podrá funcionar a un nivel como el humano si carece de sensibilidad. Para enfrentarse al reto planteado por Lyotard, estas conciencias inteligentes y sensibles deberán estar montadas en unos soportes no orgánicos que poblarían grandes máquinas espaciales, acaso circulando en órbitas similares a las de un cometa. Pero surgiría un problema que no pensó Lyotard: por su propia estructura metaloide estos seres podrían ser inmortales o vivir muchos siglos o milenios, lo que significaría un salto que modificaría esencialmente la naturaleza humana.

*Tecnología cerebral*, 2022. PixabayTecnología cerebral, 2022. Pixabay

​ Pero aquí dejaré que el lector imagine un futuro semejante, para retornar al tema de la sensibilidad de las máquinas robóticas. ¿Cómo pueden los ingenieros introducir las emociones y la sexualidad en los robots inteligentes, para que logren tener una conciencia artificial semejante a la humana? El físico Max Tegmark, quien imagina una sustancia llamada sentronium, no nos da ninguna idea concreta sobre cómo elaborar o cómo puede aparecer esa sustancia capaz de tener experiencias subjetivas. El sentronium sería como una onda o un algoritmo, que son independientes de su sustrato físico específico. Por lo pronto, esta idea es tan inservible como pensar que un soplo divino dota a un robot de sentimientos. La mayor parte de las especulaciones sobre el futuro de la IA parten del supuesto de que este soplo divino (o singularidad, como prefieren llamarla) ocurrirá próximamente.

​ Ya he insinuado más arriba que podría ocurrir una inversión que acabase convirtiendo a los humanos en prótesis de máquinas superinteligentes. Los humanos serán el sentronium de un robot. Esta nueva condición humana podría terminar en la pesadilla de convertirnos en meros pedazos de carne encargados de transmitir sensaciones y sentimientos a poderosas máquinas muchísimo más inteligentes que nosotros. Podemos acaso sentir e imaginar esta nueva condición si recordamos la experiencia del uso de artefactos cognitivos que apoyan, aumentan e incluso sustituyen las percepciones de los humanos. Es el caso de muchos aparatos, como los generadores de realidad virtual y de ambientes simulados. En ocasiones se trata de juegos y otras veces de sistemas de aprendizaje o de observación. Los simuladores de vuelo, como juegos y como sistemas de entrenamiento de pilotos, son un buen ejemplo de articulación de un ser de carne y hueso con una realidad virtual inteligente. Quien haya experimentado con estos simuladores puede imaginar que, de repente, la máquina lo convierte en sus prótesis sensibles. Cuando nos conectamos a Second Life, un juego que ha creado una inteligente realidad virtual en la que los humanos se introducen por medio de avatares, podemos aparentemente inyectar nuestras emociones y deseos a un ambiente digital. Nos hemos convertido en un trozo de carne consciente y sensible enchufado a un mundo artificial por medio de una computadora. Algunos sistemas cibernéticos inteligentes aumentan nuestras percepciones, como los aparatos que registran dimensiones que no percibe el conductor de un auto o el piloto de un avión. Otros sistemas de realidad aumentada son la combinación de un ambiente virtual con un entorno real. Varios juegos, mediante pantallas, cascos y visores, generan experiencias que mezclan la realidad percibida con elementos virtuales.

​ Estos juegos están muy lejos del singular soplo divino que habrá de volver conscientes a los robots. Pero hay futurólogos que han imaginado la vida social después del soplo que habría provocado la multiplicación de robots conscientes. Es significativa la proyección que hace un economista de un futuro en el que toda la fuerza de trabajo ha sido sustituida por robots. Robin Hanson en su libro The Age of Em explica que dentro de unos cien años, en el siglo XXII, todos los trabajadores humanos habrán sido remplazados por una primera versión de robots construidos a partir de emulaciones de cerebro completo de personas vivas. A partir de este supuesto, intenta dibujar el mundo social y económico resultante.4 Es un mundo en el que los humanos ya no trabajan y donde unos robots llamados em (emulaciones) sostienen la economía. Un em es el resultado de copiar de un cerebro humano particular todas sus neuronas y las conexiones que las unen para a continuación construir un sistema computacional capaz de procesar señales de acuerdo con las características copiadas. El resultado es un em que tiene una conducta muy parecida al original, tan parecida que los humanos pueden hablar con el artificio y convencerlo (u obligarlo) de hacer trabajos útiles. Estos ems habitan en sus ciudades, alejados de los lugares donde los humanos viven una existencia confortable, gozando de las inversiones que han hecho en la economía de los robots. Los robots, por su lado, se organizan en clanes que agrupan a los descendientes del mismo cerebro original. Los ems son entes sexuados que pueden ser felices, estar tristes, sufrir cansancio, tener esperanzas o miedos, hacer amigos y tener amantes. La inmensa mayoría de los ems, más del 80 por ciento, vive una existencia digital y virtual en los circuitos de computadoras, y solamente quienes requieren hacer trabajo físico tienen cuerpos. Pero se trata de cuerpos que no tienen ninguna semejanza con los humanos. Hanson supone que estos androides serán diminutos (256 veces más pequeños que un humano) pero mucho más rápidos tanto física como mentalmente. Es sintomático que en esta versión del futuro los robots aparecen con emociones y sentimientos. De hecho, podrían ser sistemas eficientes carentes de sensibilidad. Pero Hanson ha querido poner un poco de emoción en su versión tecnocrática y aburrida de esa clase de mundos digitales imaginados por Philip K. Dick en sus inquietantes novelas. En vano buscará el lector del libro de Hanson alguna explicación de cómo los humanos han logrado fabricar unos robots inteligentes y sensibles que trabajan para ellos. […]


Estaremos frente a un robot verdaderamente consciente en el momento en que comprobemos que siente un alivio al aplicarle un placebo cuando sufra un malestar. Ello será la prueba de que está dotado de un sistema al que se puede engañar y que, como resultado, la máquina deja de sentirse enferma. Aunque he expresado muchas dudas sobre la forma en que se intenta construir máquinas inteligentes y dotadas de conciencia, estoy convencido de que sí será posible tener éxito en esta empresa, aunque no me parece que se logre tan pronto como algunos esperan. No se logrará crear robots con conciencia hasta que se resuelva un problema muy complejo: la manera de ensamblar en un solo sistema una IA no especializada de amplio espectro con alguna forma de vida no orgánica capaz de autoorganizarse, autorreplicarse y tener sensibilidad. Dentro de este sistema tendrán que funcionar los equivalentes cibernéticos y mecánicos de un cerebro basado en señales junto con un exocerebro apoyado en símbolos culturales.

Acantilados cósmicos, 2022. NASA. Marshall Space Flight Center/FlickrAcantilados cósmicos, 2022. NASA. Marshall Space Flight Center/Flickr

​ La construcción de una inteligencia de carácter general se enfrenta a problemas técnicos muy complicados. Habrá que comenzar sumando varios sistemas especializados que logren coordinarse con agilidad. Ello requerirá de una potencia y una capacidad computacional enormes que no existen actualmente pero que la evolución de la tecnología alcanzará en algún momento. Acaso el perfeccionamiento de las computadoras cuánticas cambie este panorama.

​ La construcción de un robot con una inteligencia flexible, amplia y general capaz de adaptarse y operar en ambientes no estructurados desconocidos se puede llevar a la práctica solamente mediante una máquina capaz de aprender. Un robot realmente inteligente debe aprender mediante la observación de lo que hacen los humanos (u otros robots) o mediante ensayos de prueba y error. El llamado aprendizaje profundo está avanzando en esta dirección, pero se encuentra aún muy lejos de alcanzar una capacidad general de aprendizaje multifacético.

Roger Bartra, Chamanes y robots, Anagrama, Barcelona, 2019.

Imagen de portada: Tecnología cerebral, 2022. Pixabay

  1. Ray Kurzweil, The Singularity Is Near: When Humans Transcend Biology, Viking, Nueva York, 2005. 

  2. Jean-François Lyotard, “Si l’on peut penser sans corps”, en L’inhumain. Causeries sur le temps, Galilée, París, 1988. Este texto recoge una conferencia impartida en un seminario de la universidad alemana de Siegen, donde fue invitado por Hans Ulrich Gumbrecht. 

  3. Los astrónomos hoy piensan que el sistema solar durará todavía 6 o 7 mil millones de años, o incluso más. 

  4. Ver Robin Hanson, The Age of Em. Work, Love, and Life when Robots Rule the Earth, Oxford University Press, Oxford, 2016.