Inteligencia artificial y democracia cultural

Esta era digital nos impele a evaluar las secuelas de la inteligencia artificial (IA) en la democracia cultural, cuyo objetivo primario es fomentar las formas de vida, los significados culturales y los valores estéticos que emanan de una sociedad. En nuestro tiempo se observa un efecto inercial de recurrir a la IA para observar manifestaciones de la cultura, como sones, bailables, ritos… Los veredictos sobre estas expresiones, empero, provienen de algoritmos; más aún, los entornos de elección social están cada vez más determinados por ellos.

​ La IA y sus plataformas denominadas de “inteligencia artificial intercesora de la cultura” (IAIC) operan a través de algoritmos, proponen revelaciones culturales, sin embargo, personifican sus propios valores. Dichos procesos computacionales abarcan desde algoritmos deterministas, que siguen un conjunto de reglas establecidas por humanos, hasta formas más complejas de IA, como el aprendizaje automático.¹

​ Ante ello debe considerarse que la cultura tiene que ser esencialmente democrática, toda vez que la convivencia social armónica se fundamenta en la libre autodeterminación, así como en el fortalecimiento de las nociones de representación, participación, legitimidad y solidaridad que sostienen el humanismo en la estructura social. Estas nociones subrayan una visión humanista que aspira a conciliar los derechos culturales individuales con los colectivos.

​ En una sociedad que se precie de democrática, la democracia cultural es indispensable para lograr la autodeterminación de sus protagonistas. Para ello, estos actores deben priorizar el vínculo directo, espontáneo y genuino con una amplia gama de bienes y expresiones, y facilitar así la transformación de sus preferencias y anhelos. Son a estas figuras a las que les asiste la legitimidad de decidir sus formas de vida y sus valores, cuya consecución debe ser viable en el ámbito social para asegurar el florecimiento de la cultura.

Ramiro Quesada Pons, esculturas sin título de la serie Los intercesores, 2022-2023. Cortesía del artista y de W-galería.

​ Por su parte, las IAIC, cuya naturaleza indubitable es crematística, son portales donde los protagonistas en este contorno informático abrevan significados culturales mediante interacciones algorítmicas. Para personalizar su contenido y orientar su publicidad, estas tecnologías crean una osatura de referencias o un arquetipo en la penumbra de los dispositivos de los usuarios. Este modelo se construye a partir de datos acumulados sobre el comportamiento pretérito de cada usuario, el cual se complementa con información demográfica. Este arquetipo actúa como un modelo predictivo de las preferencias del usuario que las plataformas aprovechan en su beneficio.

​ La monetización proviene de la venta de publicidad, que tiene como sustento sus reservas de datos predictivos. Luego, la función de las plataformas es la previsibilidad que las hace rentables. Las IAIC están a la vanguardia de impeler un sistema de insuflación de valores que haga viable la consecución de su primer objetivo, que es maximizar el retorno del capital. Esta taxonomía implica una optimización constante del rendimiento, consistente en la organización de las interfaces y el esquema de sugerencias, con lo que las plataformas acumulan la mayor cantidad posible de referencias aprovechables. Derivado de lo anterior, cada vez más usuarios metabolizan ingestas culturales predeterminadas por las atingencias de las IAIC.

​ La sobrevivencia de las IAIC depende de vastos catálogos de contenido, de una robusta capacidad de procesamiento y de conjuntos masivos de datos sobre sus usuarios. Debido al predominio de su naturaleza crematística, dichas tecnologías transfiguran los anhelos culturales de las personas, haciéndolos más predecibles, con el evidente propósito de uniformarlos y eliminar su carácter estocástico, lo que les permite maximizar sus ganancias. A largo plazo, la uniformidad restringe el florilegio de fervores comunitarios.

​ En contraste, la democracia cultural postula que la sociedad debe tener la oportunidad de participar en procesos colectivos con el fin de contribuir a la cultura que la circunda. Desde esta perspectiva, la cultura ha de entenderse en su más amplio sentido omnicomprensivo e incluir toda clase de expresiones.

Ramiro Quesada Pons, esculturas sin título de la serie Los intercesores, 2022-2023. Cortesía del artista y de W-galería.

​ La democracia cultural abarca procesos de este tipo tendientes a la creación de significados políticos compartidos, como lo es la posibilidad de dar respuesta a interrogantes sociales básicas, y se orienta a garantizar el acceso a la cultura y a la justicia en una sociedad diversa.² En este contexto, todos los agentes deben tener voz en la creación de significados sociales y las creaciones deben reflejar los intereses de toda la comunidad, no sólo los de una élite.

​ Por ello, las IAIC se erigen como un riesgo para la heterodoxia cultural. De forma inexorable socavan el vínculo de sus actores con una amplia gama de materiales y epifanías. Al hacerlo, inhiben el ejercicio cotidiano de la democracia.

​ La democracia cultural gravita en torno a diálogos constructivos y contextos propicios para su realización. Empero, la digitalización provoca una transformación del espacio público, lo que obliga a reevaluar cómo se llevan a cabo esos diálogos. Al respecto, es conveniente considerar la tendencia irreversible de la plataformización de la cultura, puesto que ahora los diálogos se realizan en peanas que, aunque facilitan el acceso, también moldean las interacciones.³

​ La democracia cultural entraña que las personas converjan en la diversidad y busquen soluciones comunes a través del diálogo. Sin embargo, las IAIC incentivan actitudes individualistas y polarizadas en lugar de promover un espacio público y una agenda compartida; asimismo, a menudo crean comunidades virtuales homogéneas que fomentan la segmentación de los usuarios, con lo que socavan la cohesión social y perpetúan las divisiones.

Daniel Henri Kramer Luna, Unreal Space Render, 2022-2023. Imágenes diseñadas con el software Blender. Cortesía del artista.

​ Estos entarimados informáticos buscan predisponer a la población a que sus narrativas y preferencias sean definidas por algoritmos cuyo efecto primario es reemplazar la motivación encaminada a crear nuevas expresiones. Las manifestaciones inducidas no formaban parte prima facie de los empeños que sus coetáneos imaginaban explorar. Hoy en día, el algoritmo es un vector que desplaza dichas pretensiones y erosiona la democracia cultural.

​ La interferencia de las IAIC con esta forma de la democracia hace menos probable que los usuarios identifiquen una gama diversa de manifestaciones culturales. Sin embargo, esto no implica que las recomendaciones de las plataformas impidan interactuar con un vasto repertorio de testimonios. La precisión obliga: es inexacto sostener que estas tecnologías no contribuyen a ampliar el acceso a la participación cultural y a potenciar la democracia cultural. Pero si bien las IAIC son promisorias, también conllevan los riesgos aludidos.

​ Si se admite que dichas plataformas inhiben el desarrollo de actitudes que fomentan la democracia cultural, se impone la necesidad de regularlas. Las legislaciones y mecanismos regulatorios actuales no están, empero, diseñados para neutralizar los riesgos que éstas plantean. En la medida en que los usuarios y las IAIC, que son ubicuas y de naturaleza tácita, traspasan las fronteras nacionales, en particular en la era digital, un enfoque regulatorio basado en el derecho internacional es la única solución viable. Tal es el sentido de las directivas europeas y de la Declaración de París sobre inteligencia artificial inclusiva y sostenible para los pueblos y el planeta, suscrita el 11 de febrero pasado con la notable denegación de los Estados Unidos y el Reino Unido.

​ Las IAIC escapan, así, del escrutinio y la crítica; más aún, el nuevo contexto tecnológico ha remodelado en forma drástica las cadenas de valor culturales de un modo que afecta la sostenibilidad de los sistemas de gobernanza para la cultura. De seguir, en sus inicios, una configuración lineal, su proceso describe ahora un radial cuyo epicentro son las IAIC.

Daniel Henri Kramer Luna, Unnecessary Detailed Sci-Fi Default Cube, 2022-2023. Imágenes diseñadas con el software Blender. Cortesía del artista.

​ La legislación que las regule debe considerar no sólo el acceso formal a la cultura, sino también la necesidad de que exista una oportunidad sustantiva para que una gran proporción de la sociedad participe en la configuración de la misma en su comunidad. Otra proposición para abordar estos desafíos es modificar la estructura de gobernanza de las IAIC para neutralizar su objetivo principal de maximizar sus réditos y asegurar que la cultura siga siendo un espacio de libertad y autogobierno donde todas las voces sean valoradas para que contribuyan, en un orfeón, al enriquecimiento de la sociedad.

​ Es un lugar común sostener que la tecnología es una fuerza inevitable, o bien determinista o neutral. Las tecnologías de IA, sin embargo, no son neutrales; conllevan los valores de sus desarrolladores y el ecosistema más amplio de su desarrollo e implementación.⁴

​ La rápida integración de las tecnologías de IA y sus IAIC, que los protagonistas culturales utilizan, ofrecen oportunidades sin precedentes para ejercer una influencia dirigida, individualizada e imperceptible sobre personas y grupos sociales. Si bien las IAIC se posicionan como intermediarias neutrales, su pretensión queda contradicha por su control evidente del acceso a la cultura y su influencia en el contenido a través de algoritmos de recomendación.

Daniel Henri Kramer Luna, Organic Sculpture, 2022-2023. Imágenes diseñadas con el software Blender. Cortesía del artista.

​ Para actuar en consonancia con los valores democráticos, las plataformas deben cumplir estándares estrictos de transparencia y revelar el funcionamiento interno de los algoritmos que clasifican la información y emiten las sugerencias.

​ Las categorías sociales tradicionales no satisfacen los intereses mercantes de los diseñadores de algoritmos, por lo tanto, postulan que la publicidad debe ser fragmentada. De este modo, las IAIC crean un sistema que evalúa los perfiles en función de las actividades que éstos traslucen en línea; esta taxonomía propende a perpetuar las jerarquías y desigualdades.

​ En el escenario informático irrumpe ahora el uso de “sistemas automatizados de decisión” (ADS por sus siglas en inglés), que crean un auténtico institucionalismo algorítmico cultural.⁵

​ Si bien la IA puede coadyuvar a consolidar la estructura económica y social, la incursión de las IAIC en la oferta y comercialización de bienes y servicios culturales constituye un desafío cuando se trata de integrarlos a un marco de desarrollo sostenible. “La belleza salvará al mundo”, sostenía Dostoyevski en su novela El idiota, y hoy agregaríamos: es la cultura omnicomprensiva la que debe salvar al mundo.

Imagen de portada: Ramiro Quesada Pons, dibujo sin título de la serie Modo Goblin, 2023. Cortesía del artista y de W-galería.