Ávidos por medirlo todo

Conciencia / dossier / Febrero de 2021

Eugenio Tiselli

 Leer pdf

Algunos crímenes que nos han hecho malditos hemos debido cometer para que ahora hayamos perdido toda la poesía del universo. Simone Weil


Las máquinas persuasivas

Estás frente a un muro. Hay una mesa y una silla en la que estás sentado. Sobre la mesa hay una computadora y a través de ella conversas con quienes están detrás del muro. Del otro lado hay dos personas: una es humana y la otra no. Te envían textos que van apareciendo en pantalla, les respondes tecleando. La conversación a tres sigue su curso, hasta que el Investigador, vestido con la arquetípica bata blanca, la interrumpe abruptamente y te interpela. “¿Cuál de tus dos interlocutores es humano? ¿Cuál es la computadora?” Él lo sabe, tú no. Intentas responder rápidamente, sin vacilar. Pero no puedes evitar un breve silencio: esta vez resulta realmente difícil decir quién es quién. La conversación fue tan real, tan coherente… ¿será que ambos son humanos? Sin embargo, el conversador número uno cometió varias faltas gramaticales y quizás ese detalle lo delata. ¿Será el número uno un humano cuya escritura es imperfecta? ¿O será más bien un algoritmo imperfecto, que aún no domina del todo el intrincado arte de nuestra lengua? La duda podría ser infinita, pero la mirada del Investigador se clava en ti, y debes responder. “El número dos es humano. El número uno es una computadora”, dices finalmente. El investigador hace una breve anotación en su hoja de pruebas y se retira sin pronunciar palabra, sin revelarte la respuesta del enigma. Tal vez nunca la sabrás. Al experimento del que has sido parte se le conoce como la prueba de Turing, formulada en 1950 por el matemático inglés Alan Turing. De acuerdo con él, la prueba serviría para determinar si una máquina era capaz, o no, de pensar como un ser humano o, en otras palabras, de exhibir un comportamiento inteligente, indistinguible del que nosotros desplegamos a través del lenguaje. La palabra clave aquí es exhibir: una computadora que participa en la prueba de Turing simula ser inteligente a través de complejos cálculos simbólicos que le permiten producir lenguaje humano más o menos verosímil. Por ello, como dijo Ian Bogost, las máquinas no son verdaderamente inteligentes, sino persuasivas. Pero vayamos más allá, para examinar la propia noción de inteligencia y su relación con la identidad humana. ¿Son realmente el pensamiento y el lenguaje los rasgos que definen al ser del humano, tal como lo implica la prueba de Turing?

El escalpelo de Descartes

René Descartes está solo en su habitación. Viste una bata oscura y está sentado al calor de la chimenea. Una duda le rasga el alma. Todos los principios en los que había creído hasta ese momento se desvanecen. Se pregunta si la vida no es más que una ilusión y duda incluso de sí mismo. “¿Soy yo algo acaso?”. A partir de allí, sus meditaciones lo llevan por un camino que habría de sentar las bases de lo que hoy conocemos como el sujeto racional o moderno. En efecto, Descartes convierte la duda en certeza respondiéndose de este modo: si al pensar nos engañamos, al menos ese engaño nos permite saber que cuando pensamos, existimos, porque no se puede engañar a lo que no existe. “Yo pienso, yo existo” es la famosa fórmula que condensa su hallazgo. Pero este punto de vista no despeja totalmente la duda del filósofo, ya que no le permite deducir la existencia de su cuerpo, a pesar de que está vestido y siente el calor del fuego. Sólo existe él en tanto que existe su mente, y ese “algo” que él es, es una cosa que piensa, que entiende, que afirma, que niega y que establece, al fin, una relación predominantemente racional con el mundo. La escisión está hecha: el escalpelo de Descartes ha separado el cuerpo de la mente y le ha otorgado a ésta el título de capitana, confiándole la misión de pensar y entender el mundo, mientras que aquél será simplemente su vehículo de navegación. La meditación de Descartes, o cartesiana, estableció, desde la Francia del siglo XVII, la idea de que nuestro ser es una función de nuestro pensamiento, es decir, del diálogo interno que, eventualmente, se expresa y fluye entre nosotros y el mundo en forma de lenguaje.

Diagrama sobre el fuego, René Descartes, Tratado del hombre, 1664. Wellcome Collection CC

Sobredosis

Uno de los pasatiempos en la época de Descartes era construir autómatas mecánicos. Estos muñecos animados, zoomorfos o antropomorfos, parecían moverse por voluntad propia gracias a la acción de mecanismos ocultos. Curiosamente, el filósofo pensaba que era posible construir máquinas que imitaran fielmente a los animales, puesto que, según él, no eran más que cuerpos que obedecían ciegamente las leyes de la física. Pero era categórico en cuanto a la imposibilidad de crear máquinas que nos imitaran a nosotros, los humanos, ya que éstas jamás llegarían a desarrollar ni una razón autónoma, ni un lenguaje para expresarla. Razón y lenguaje eran para él, pues, lo que nos distinguía no solamente de los animales, sino también de las máquinas. Sin embargo, como ya hemos visto, esto no fue un obstáculo para la invención, absolutamente moderna, de máquinas capaces de imitar el razonamiento y el lenguaje humano. El propio Turing fue un fiel seguidor de Descartes, puesto que formuló su prueba enfocándose en la capacidad de una máquina para desplegar un lenguaje verosímil, capaz así de crear la ilusión de un pensamiento artificial. La perspectiva de Turing, a su vez, dio lugar a la teoría computacional de la mente, en la que pensamiento y conciencia son considerados procesos de cálculo y manipulación de información. El hilo que conecta a Turing con Descartes nos revela la profunda influencia que la técnica, considerada como un sistema de realidad plenamente consumado, tiene sobre la cultura contemporánea, tanto la occidental como la occidentalizada. En la realidad técnica, lo que cuenta como real es sólo aquello que se puede racionalizar, es decir, lo que se puede traducir sin ambigüedad al lenguaje de los números. El abrazo envolvente de la técnica ha engendrado una forma específica de cultura, a la que podríamos entender como una especie de máquina cuya tarea principal es la de perpetuar, expandir e infundir la potencia creadora de la razón (ratio) en todos los ámbitos de la existencia. En otras palabras, se trata de una cultura que nos convierte en seres técnicos: razonamos, hablamos y, por lo tanto, existimos, en términos decididamente técnicos. Sin embargo, la visión técnica del mundo tiende a cegarnos ante el hecho de que lo que realmente existe es más bien una frágil e inasible neblina de contingencias y cuerpos que caen. Para matizar esta perspectiva, podríamos entender la técnica, y en particular su manifestación tangible en forma de tecnología, como un fármaco que nos permite cuidar de nuestras mentes y cuerpos, pero del que también hemos de cuidarnos. La dosis hace el veneno y la farmacología tecnológica es una cuestión de dosis. Debajo de un umbral, la tecnología cura la herida de la vulnerabilidad humana. Sobre ese umbral, se convierte en una proliferación dañina e incontrolable, capaz de destruirnos. Y hemos de reconocer que, guiados por la razón técnica, hoy nos encontramos muy por encima del umbral. Los efectos de la sobredosis tecnológica se vuelven cada vez más tangibles en nuestras mentes, cuerpos y ecosistemas. Sin embargo, los efectos que no podemos percibir inmediatamente también nos harán daño. Consideremos, por ejemplo, la siguiente paradoja. En primer lugar,

el aumento de los niveles de dióxido de carbono, el principal impulsor del cambio climático, no es sólo un peligro para la Tierra y otras criaturas vivientes, sino que también está afectando nuestras capacidades cognitivas. A niveles altos, el CO2 nubla nuestra mente: nos vuelve lentos y menos aptos para desarrollar nuevas ideas, degrada nuestra habilidad para adquirir nueva información, cambiar de parecer o formular pensamientos complejos.

Y, al mismo tiempo,

investigadores de la Universidad de Massachusetts realizaron una evaluación del entrenamiento de algunos de los modelos más comunes de inteligencia artificial a gran escala. Descubrieron que este proceso puede emitir más de 280 mil kilogramos de dióxido de carbono, equivalentes a casi cinco veces las emisiones de por vida del automóvil estadounidense promedio, incluyendo la propia fabricación del vehículo. El estudio examina específicamente el campo de la inteligencia artificial dedicado a enseñar a las máquinas el manejo del lenguaje humano.

¿Acaso no resulta irónico cómo, mientras construimos máquinas que imitan el pensamiento y el lenguaje humano de formas cada vez más persuasivas, sus emisiones de CO2 contribuyen a volvernos cada vez más estúpidos? La inteligencia artificial podrá ser un logro humano, pero sus consecuencias deberían alertarnos sobre los excesos de la razón y de su tendencia a transformar y reformatear el mundo a través de la técnica y la tecnología con tal de dominarlo. Los cuerpos y el mundo se vuelven invisibles cuando la realidad técnica es la única que cuenta. Cuerpos y mundo sufren bajo el peso de una mente gigante, voraz e insaciable, ávida por medirlo todo. Y, como hemos visto, la mente sufre también a causa de su propia hipertrofia.

El cuerpo que cae

Tal vez las cosas serían distintas (aunque no necesariamente mejores) si le hubiéramos hecho caso a Ibn Sina. Seis siglos antes que Descartes este hombre, mejor conocido como Avicena, postuló que la prueba de la existencia humana no se apoyaba en la razón, sino en la intuición de la propia presencia. Desde su cautiverio en la fortaleza de Faradjan, en la antigua Persia, Avicena soñó con un cuerpo que caía a través del vacío. En ese estado de flotación y privación sensorial, ni siquiera perturbado por la fricción del aire, ¿podría esa persona saber de su propia existencia? Siguiendo una serie de meditaciones, no muy distintas a las que seguiría Descartes, el filósofo persa concluyó que el cuerpo que cae puede intuir que existe gracias a una conciencia de sí mismo independiente del propio cuerpo, a la que Avicena llamó alma. Podríamos resumir este hallazgo mediante la siguiente fórmula: “Yo intuyo mi propia presencia, yo existo”. Es justamente lo más inasible, el alma, lo que permite la intuición de la propia presencia en el mundo. Y, a partir de esa capacidad, Avicena dio origen a una epistemología de la existencia fundada en la intuición inmediata e inefable de la presencia. Esta teoría encontró un campo fértil en la filosofía persa de los siglos posteriores, donde la noción de un conocimiento no conceptual ni discursivo, sino basado en la presencia, se convirtió en la forma más pura de conocimiento. El más elevado conocimiento de sí mismo coincidía con aquel de lo inefable. Según el filósofo italiano Federico Campagna, la intuición y lo inefable constituyen los fundamentos de un sistema de realidad opuesto al de la técnica. Ese otro sistema no estaría fundado en la razón, sino en una intuición poética basada en la presencia del cuerpo en el mundo y, a su vez, del mundo en el cuerpo. Habría entonces una inteligencia intuitiva que reconocería lo inefable de la existencia y que, por lo tanto, no intentaría imitarla a través de técnica, razón o lenguaje. Lo existente sería, en cambio, accesible sólo a través de la poesía, que constantemente desafía lo in-descriptible mediante símbolos que no buscan significar con precisión, sino que hacen estallar la infinita ambigüedad de lo real. La poesía es esa intuición expresada por el cuerpo vulnerable que cae, ese saber sin razón que se abre en fractal hacia todos los mundos posibles. ¿Qué mundo y qué técnicas habríamos construido si, en lugar de entender la existencia desde la razón, lo hubiéramos hecho a partir de una poética de la presencia? ¿Qué inteligencias daríamos por buenas si nos viéramos a nosotros mismos menos como mentes que piensan y más como cuerpos vulnerables que caen, pero que al caer intuyen?

Sistema nervioso, Avicena, El canon de la medicina, 1025. Wellcome Collection CC

Otras inteligencias

Entonces, ¿la culpa de todo la tienen Descartes y sus discípulos? ¡Por supuesto que no! Pero el estado lamentable del mundo racional y técnico que surgió de la meditación cartesiana nos debería hacer reflexionar sobre las retroalimentaciones que hay entre la filosofía, la técnica y las ecologías de la mente, el cuerpo y la Tierra. La manera en que nos pensamos a nosotros mismos prefigura y moldea nuestra relación con el mundo. Las catástrofes ecológicas que se ciernen sobre nosotros son, en buena parte, fruto de una razón técnica excesiva que nos ha llevado a tecnificar el mundo mismo; es decir, a convertirlo en una máquina que funciona exclusivamente para nuestro provecho. Hoy en día, esa máquina parece volverse contra nosotros. Tal como hemos visto, incluso la inteligencia artificial, a pesar de su apariencia meramente simbólica, contribuye físicamente a la acelerada descomposición de la vida en la Tierra. ¿Qué otras inteligencias desplegarían nuestros artefactos técnicos si nos guiara la intuición más que la razón? ¿Tendríamos máquinas poéticas, guiadas por una intuición artificial? Y estas máquinas, ¿serían menos destructivas? Las discusiones más avanzadas dentro del campo de la inteligencia artificial reconocen la necesidad de trascender la noción de inteligencia basada exclusivamente en el manejo del lenguaje, tal como lo propuso Turing bajo la sombra de Descartes. Los límites de dicha noción son evidentes, por ejemplo, ante la incapacidad de la inteligencia artificial para reconocer las relaciones entre causas y efectos, que en nosotros involucran tanto al cuerpo como al pensamiento. Si toco el fuego, me quemaré. Esto ha aprendido el cuerpo y lo sabe de manera inmediata, aun cuando la mente no sepa explicar por qué el fuego quema. Sin embargo, al privilegiar mente sobre cuerpo, hemos fabricado tecnologías que actúan como mentes sin cuerpo, incapaces de un conocimiento pleno del mundo. Nadie sabe lo que puede un cuerpo, diría Spinoza, y mucho menos cómo fabricar uno con nuestros torpes materiales. Y así, la industria que explota los hallazgos de la inteligencia artificial insiste en fabricar y vender masivamente pequeñas mentes de silicio y metales, que hablan de manera persuasiva pero que desconocen lo ambiguo y lo impronunciable. Permanecemos varados en un mundo técnico, fruto de la razón cartesiana, en el que los cuerpos, y con ellos el mundo, son los grandes desconocidos.

Imagen de portada: Avicena dialoga con un hombre rodeado de fármacos. Wellcome Collection CC