La verdad es muy sencilla, aunque muchos teman revelarla y enunciarla: las políticas que ha puesto en marcha Urtubey para intentar luchar contra la miseria que amenaza los niños y niñas de Salta es profundamente clasista y discriminatoria. Y por serlo, constituyen una amenaza mayor a nuestras libertades y a nuestra democracia.
Ya no caben dudas de que vivimos en la era del algoritmo. Incluso en Salta, en donde todavía se ven carros tirados por caballos y muchísimas personas viven apartadas de cualquier contacto con la tecnología y el progreso, en una sociedad encapsulada y atemporal.
Una buena parte de las decisiones que afectan a nuestras vidas no son adoptadas por humanos (pregúntenle si no al señor Yarade), sino por modelos matemáticos.
Dicen los que saben que esta forma de adoptar decisiones debería conducir a una mayor equidad, ya que de alguna manera todos son juzgados de acuerdo con las mismas reglas, sin sesgo.
Pero en la realidad ocurre exactamente lo contrario, pues los modelos que se utilizan en la actualidad distan mucho de ser neutros o neutrales. Al contrario, son opacos, no regulados e incontestables, incluso cuando se equivocan.
Los algoritmos que conocemos y que están empezando a gobernar nuestras vidas no son sino simples «opiniones matemáticas», enmascaradas -como en el caso de Salta- bajo la fachada de una herramienta aséptica y pretendidamente igualitaria.
Pero el sesgo matemático deriva en un refuerzo de la discriminación. Por ejemplo, si un estudiante pobre no puede obtener un préstamo porque un modelo matemático lo considera demasiado arriesgado (simplemente por tener en cuenta su código postal), quedará excluido del tipo de educación que podría sacarlo de la pobreza, produciéndose una espiral viciosa.
Desde este punto de vista, los algoritmos son soluciones pensadas para un público masivo y a la vez indefenso. Los ricos en nuestras sociedades no son «víctimas» de los algoritmos discriminatorios, pues sus problemas (incluidos los embarazos precoces de sus hijas) son resueltos de forma personal, dando la espalda a los modelos matemáticos más usuales.
Son estos modelos precisamente los que en la actualidad dan forma a nuestro futuro como individuos y como sociedad, sirven para apuntalar a los afortunados y para castigar a los oprimidos. Para O’Neil, estas «armas de destrucción matemática» se utilizan sin controles democráticos para calificar a maestros y a estudiantes, para ordenar currículos, para conceder o negar préstamos, para evaluar a los trabajadores, para influir sobre los votantes, para decidir cuestiones delicadísimas relacionadas con nuestros derechos (como la libertad condicional), para monitorear nuestra salud, y, cómo no, para determinar cuándo una niña pobre es propensa a sufrir embarazos prematuros y estará condenada a no salir nunca de la pobreza.
Los estudios han demostrado que en las búsquedas automatizadas de ofertas de empleo basadas en algoritmos, el simple hecho de ser mujer predispone a las buscadoras a encontrar ofertas de puestos de trabajo de menor calidad que las de los hombres. Esta desigualdad injustificada está soportada por modelos matemáticos pretendidamente neutrales e igualitarios.
Según Cathy O’Neil, los malos diseños de los algoritmos que manejan empresas, policías y gobiernos pueden empeorar la vida de las personas, y en condiciones normales acarrean nefastas consecuencias para la igualdad de oportunidades, los derechos laborales y, en general, para la calidad de nuestra democracia. Desde este punto de vista, su libro constituye una insustituible contestación a la visión del big data como panacea de todos los males sociales y económicos que padecemos.
“La crisis financiera dejó bien claro que las matemáticas no solo estaban profundamente involucradas en los problemas del mundo, sino que además agravaban muchos de ellos. La crisis inmobiliaria, la ruina de grandes entidades financieras, el aumento del desempleo: todo esto había sido impulsado e inducido por matemáticas que blandían fórmulas mágicas”, dice la experta.
Para O’Neil, los algoritmos a los que se refiere su obra son modelos matemáticos que cumplen tres requisitos. En primer lugar -dice- son modelos incontestables. «Les otorgamos el poder mágico de solucionar de manera justa cualquier problema que tenemos, desde encontrar la persona adecuada para un lugar de trabajo hasta ordenar la información que recibimos a través de las redes sociales. Segundo, son secretos. Desconocemos sobre qué reglas han sido construidos y a menudo no somos conscientes de que nos estamos sometiendo a su juicio. La transparencia importa, pero en estos casos siempre hay un ‘secreto industrial’ que impide conocer el origen y la existencia de estos algoritmos. Tercero, son modelos injustos. Bajo ese secretismo los algoritmos suelen operar contra los intereses de las personas. Estas tres características hacen que los algoritmos no solucionen los problemas que tenemos, sino que los hagan peores».
Cuando hablamos de transparencia y secretismo, no solo afloran en nuestra memoria los problemas derivados de la opacidad de los algoritmos que se emplean actualmente en las políticas gubernamentales que luchan contra la pobreza infantil, sino también los que provoca la desgraciada irrupción en Salta del voto electrónico, uno de las herramientas más injustas, secretas e inverificables que se hayan conocido en nuestra moderna democracia.
O’Neil no habla de oídas. Es Ph.D. en Matemáticas de la Universidad de Harvard, postdoctorada en el departamento de Matemáticas del MIT y profesora en el Barnard College, donde publicó una serie de trabajos de investigación en geometría algebraica aritmética.
La científica ha trabajado también como experta en análisis y gestión de información cuantitativa para el fondo de cobertura D. E. Shaw, en medio de la crisis crediticia, y más tarde para RiskMetrics, una compañía de software que evalúa el riesgo para las tenencias de fondos de cobertura y bancos. Tras desencantarse del mundo de las finanzas, O’Neil se involucró con el movimiento Occupy Wall Street, participando en su Grupo de Banca Alternativa. Dejó las finanzas definitivamente en 2011 y comenzó a trabajar como científica de datos en el sector de start-ups de Nueva York, creando modelos que predecían las compras y los clics de las personas.
Su libro Armas de destrucción matemática, cuya lectura recomiendo para que nos demos cuenta del enorme fiasco de las políticas sociales del gobierno de Salta, fue publicado en los Estados Unidos en 2016 y fue nominado para el National Book Award 2016 en la categoría de no ficción.