El tenebroso pasado de los algoritmos que asocian el aspecto con la criminalidad

Sexo / panóptico / Julio de 2020

Catherine Stinson

Traducción de: Maia F. Miret

“Frenología” es una palabra que suena a anticuado, como de libro de historia, archivada en algún lugar entre “enema” y “velocípedos”. Uno pensaría que la práctica de juzgar el valor de las personas con base en el tamaño y la forma de su cráneo ha quedado en el pasado, pero últimamente la frenología comenzó a alzar su bulbosa cabeza otra vez. En años recientes los algoritmos de machine learning han tentado a los gobiernos y a las compañías privadas con el poder de obtener toda clase de información a partir del aspecto de las personas. Hoy en día varias startups aseguran que pueden usar inteligencia artificial (IA) para ayudar a los empleadores a detectar los rasgos de personalidad de los candidatos a un puesto con base en sus expresiones faciales. En China el gobierno es pionero en el uso de cámaras de vigilancia que identifican y rastrean a minorías étnicas. También se reportan escuelas que instalan sistemas de cámaras que castigan automáticamente a los niños por no prestar atención, con base en movimientos faciales y microexpresiones tales como contracciones de las cejas. Uno de los casos más notables de los últimos años es el de los investigadores de IA Xiaolin Wu y Xi Zhang, que aseguraron haber entrenado un algoritmo para identificar criminales con base en la forma de sus rostros con una precisión de 89.5 por ciento. No llegaron tan lejos como para darle crédito a las ideas sobre la fisiognomía y la personalidad que circularon durante el siglo XIX, en particular al trabajo del criminólogo italiano Cesare Lombroso, que sostenía que los criminales son bestias subevolucionadas y subhumanas que pueden reconocerse por sus frentes oblicuas y sus narices aguileñas. Y sin embargo, en este estudio el uso de la alta tecnología para detectar supuestos rasgos criminales se alimenta directamente del “método de composición fotográfica” que desarrolló el todólogo victoriano Francis Galton y que consistía en superponer los rostros de muchas personas en cierta categoría para encontrar los rasgos que indicaban cualidades como salud, enfermedad, belleza y criminalidad. Los estudiosos de la tecnología consideran que estos métodos de reconocimiento facial son “literalmente frenología”; también los vinculan con la eugenesia, la pseudociencia del mejoramiento de la raza humana que promueve la reproducción de aquellas personas que se consideran más aptas. (Galton mismo acuñó el término “eugenesia” y en 1883 la describió como “todas las influencias que tienden, así sea en el grado más remoto, a darle a las mejores razas o cepas de sangre mayores oportunidades de prevalecer rápidamente sobre las menos aptas de las que habrían tenido de otro modo”.) En algunos casos la meta explícita de estas tecnologías es negarle oportunidades a aquellos que se consideran poco aptos; en otras ése puede no ser el objetivo, pero sí terminar por ser el resultado predecible. Y sin embargo, cuando desestimamos un algoritmo al calificarlo de “frenología”, ¿cuál es exactamente el problema que queremos señalar? ¿Estamos diciendo que estos métodos son científicamente defectuosos y que en realidad no funcionan… o que es moralmente incorrecto emplearlos al margen de si son efectivos? El uso de la palabra “frenología” como insulto fulminante tiene una historia larga y enredada. Las críticas filosóficas y científicas de esta empresa siempre se han entrecruzado, aunque este entrelazamiento ha cambiado con el tiempo. En el siglo XIX los detractores de la frenología objetaban que esta disciplina intentara ubicar la sede de las diferentes funciones mentales en distintas partes del cerebro, una operación que parecía herética porque ponía en entredicho las ideas cristianas sobre la unidad del alma. Pero resulta interesante que tratar de descubrir la personalidad y el intelecto de una persona con base en el tamaño y la forma de su cabeza no se percibiera como un serio problema moral. Hoy, por el contrario, la idea de localizar funciones mentales es bastante ortodoxa. Los científicos ya no creen que la “destructividad” esté situada sobre la oreja derecha, pero la noción de que las funciones cognitivas pueden localizarse en circuitos cerebrales particulares es un supuesto estándar de la neurociencia convencional.

Physiognomy, ilustración de S. R. Wells. Wellcome Collection

Durante el siglo XIX la frenología se enfrentó también con las críticas del empirismo. Hubo furiosos debates sobre cuáles funciones residían dónde, y si las medidas craneanas eran una forma confiable de determinar qué pasaba en el cerebro. La crítica empírica más importante de la frenología es la que proviene de los estudios del médico francés Jean Pierre Flouren, que provocaba lesiones en los cerebros de conejos y palomas y que concluyó que las funciones mentales están distribuidas, no localizadas. (Más tarde estos resultados fueron desmentidos.) Que la frenología fuera rechazada por razones que la mayor parte de los observadores contemporáneos ya no aceptarían hace aún más difícil determinar por qué hoy en día usamos “frenología” como insulto. Tanto la “nueva” como la “vieja” frenología han sido criticadas por sus métodos descuidados. En este estudio reciente de criminalidad con ayuda de IA los datos se obtuvieron de dos fuentes muy distintas: retratos de reclusos y páginas de internet de las compañías en las que trabajan personas sin acusaciones criminales. La fuente misma podría explicar la capacidad del algoritmo para detectar una diferencia entre los grupos. En un nuevo prefacio al artículo los investigadores también admitieron que considerar que las sentencias de la corte son sinónimos de criminalidad constituía un “serio descuido”. Y sin embargo, para los autores equiparar condenas con criminalidad parece no ser más que un problema empírico: emplear retratos de criminales sentenciados pero no de quienes salieron libres introduce un sesgo empírico. Reconocieron sentirse “profundamente sorprendidos” de que su artículo, que tenía objetivos de discusión “puramente académica”, fuera recibido con una ola de indignación pública. Curiosamente los investigadores no mencionan el hecho de que las sentencias mismas dependen de las impresiones que se forman policías, jueces y jurados sobre el sospechoso, lo que hace del aspecto “criminal” de una persona una variable de confusión. Tampoco atinan a mencionar cómo es que la intensa vigilancia policial de comunidades particulares, y la desigualdad en el acceso a la representación legal, distorsiona su conjunto de datos. En respuesta a las críticas los autores no se retractan de la suposición de que “ser un criminal requiere un conjunto de rasgos personales anormales (atípicos)”. En efecto, su propuesta sugiere que la criminalidad es una característica innata y no una respuesta a condiciones sociales como la pobreza o el abuso. Parte de lo que hace que sus datos resulten cuestionables en términos empíricos es que la decisión de quiénes deben ser etiquetados como “criminales” no es para nada neutral. Una de las objeciones morales más contundentes frente al uso del reconocimiento facial para detectar la criminalidad es que estigmatiza a personas que ya son víctimas de una vigilancia policial extrema. Los autores dicen que su herramienta no debería ser usada con fines policiacos, pero sólo citan argumentos estadísticos para sustentar esta opinión: según explican, la tasa de falsos positivos (50 por ciento) sería inaceptablemente alta, pero no reconocen qué significa eso en términos humanos. Esos falsos positivos serían individuos cuyos rostros se parecen a los de personas sentenciadas en algún momento. Dados los sesgos raciales y de otras clases que existen en el sistema de justicia criminal estos algoritmos terminarían por sobreestimar la criminalidad entre las comunidades marginadas. La pregunta más polémica parece ser la de si resulta legítimo reinventar la fisiognomía para propósitos de “discusión estrictamente académica”. Podría objetarse en términos empíricos: en el pasado eugenistas como Galton y Lombroso fueron incapaces de hallar rasgos faciales que predispusieran a una persona a la criminalidad. Eso es porque no existe ninguna conexión que encontrar. Del mismo modo, algunos psicólogos que estudiaron la heredabilidad de la inteligencia, como Cyril Burt y Philippe Rushton, debieron tener bastante manga ancha con los datos para manufacturar correlaciones entre el tamaño del cráneo, la raza y el IQ. Si hubiera algo que descubrir uno esperaría que las muchas personas que lo han intentado a lo largo de los años no hubieran terminado con las manos vacías. El problema de reinventar la fisiognomía no es únicamente que ya se haya intentado sin éxito. Los investigadores que insisten en hallar la fusión fría una vez que el consenso científico la ha dejado atrás también son criticados por buscar quimeras, pero la desaprobación de la investigación en fusión fría no trae aparejada ningún tipo de oprobio. En el peor de los casos se considera una pérdida de tiempo. La diferencia es que los daños potenciales de la investigación en fusión fría son mucho más limitados. En contraste, algunos observadores sostienen que el reconocimiento facial debería regularse con tanto rigor como el plutonio, porque tiene muy pocos usos inocuos. Cuando el callejón sin salida que buscas resucitar fue inventado con el propósito de apuntalar las estructuras coloniales y de clase —y cuando lo único que en efecto puede medir es el racismo inherente en esas estructuras— es difícil justificarlo una vez más en nombre de la curiosidad. Sin embargo, llamar “frenología” a la investigación en reconocimiento fácil sin explicar qué se juega puede no ser la estrategia más efectiva para comunicar la potencia de la acusación. Para que los científicos se tomen en serio sus responsabilidades morales tienen que estar conscientes del daño que puede producir su investigación. Con suerte, explicar más claramente cuál es el problema con las investigaciones clasificadas como “frenología” tendrá más impacto que usar el nombre como un insulto cualquiera.

Edición de Sally Davies.

Imagen de portada: Imagen de reconocimiento facial en X. Wu y X. Zhang, “Automated Inference on Criminality Using Face Images”, arXiv, abs/1611.04135, 2016