26 / 08 | Mundo

LOS ALGORITMOS DEBEN SER GOBERNADOS

En 2019, Jessica Johnson, una estudiante de 18 años de Manchester, ganó el premio “Orwell Youth” por su ficción breve “A Band Apart”. La historia está situada en 2029, dos años después de la instauración en Gran Bretaña de un nuevo sistema clasificatorio de los estudiantes en niveles o “bands” según su rendimiento en exámenes estandarizados. En el texto de Johnson, los estudiantes británicos del 2029 son clasificados en “bands” que van del 1 al 3 y que determinan en términos totales sus futuros profesionales, académicos y sociales. 

Si bien el sistema fue instalado con el objetivo manifiesto de priorizar meritocracia en términos de rendimiento académico en lugar de condiciones socioeconómicas de origen, los personajes intuyen que el código postal (poderoso proxy de lugar en la estructura social) correlaciona con la “band” asignada. Cada año hay también una estadística de estudiantes “vanished”: son quienes escapan al conocer sus resultados, huyendo del estigma y de la determinación de sus futuros. 

En el mundo real de agosto 2020, la propia Johnson vio disminuidos los resultados de su “A-levels”, los exámenes estandarizados que los estudiantes británicos rinden al terminar la secundaria. Esto fue consecuencia de la introducción de un algoritmo por parte del organismo regulador Ofqual para predecir las notas de los exámenes no rendidos por la pandemia. Tal predicción le imposibilitaba ingresar en la University of St. Andrews. “Caí en mi propia historia” fue el comentario de Johnson.

Todos los años los adolescentes británicos rinden los “A-levels”, exámenes estandarizados a nivel nacional. En función principalmente de los resultados de esos exámenes son aceptados o rechazados por las universidades a las que quieren ingresar, lo cual a su vez tiene efecto en los niveles de ingresos a los que pueden aspirar al graduarse. A las discusiones sobre meritocracia y reproductivismo social sobre el sistema, 2020 le añadió dos componentes novedosos: una pandemia y un algoritmo. 

"la aplicación de esta moderación fue particularmente cruel contra un tipo muy especial de outliers: los estudiantes excepcionalmente buenos de escuelas con rendimientos históricos bajos. O para decirlo de otra manera y que en la gran mayoría de los casos es lo mismo: los alumnos excelentes de escuelas pobres."

Compartir:

Los “A-levels” (que habitualmente son al inicio del verano) no sucedieron este año debido a las restricciones de la cuarentena. En su lugar, los reguladores contaban con las notas de los docentes sobre el desempeño previo de los estudiantes, pero consideraron que estaban “infladas”, en el sentido de que si las tomaban como ciertas habrían sido las mejores notas de los últimos 70 años. En su lugar, decidieron aplicar un algoritmo para la “moderación” de las notas, con el objetivo de asimilarlas a las de años anteriores.

Con esa meta, tomaron por un lado las notas de los docentes como input para rankear a los estudiantes de cada escuela en cada materia y por el otro (esto es lo fundamental) el rendimiento de cada escuela en cada materia en los últimos años para definir el abanico de notas “plausibles”. Por ejemplo, si en los últimos x años la escuela z en matemática tuvo en promedio 1 nota máxima, 5 intermedias y 4 bajas, los estudiantes de esa escuela en 2020 fueron ordenados según el ranking de las notas dadas por sus docentes, pero para llenar esos 10 lugares con esa distribución. Si dos o más estudiantes recibieron la nota máxima para esa materia en esa escuela, sólo uno de ellos la mantuvo después de la “moderación”. El resto vio su nota disminuida a intermedia.

Más allá del fetiche al que el concepto fue sometido en los últimos años, el algoritmo -como casi todos ellos- no es particularmente complejo. Lo críptico funciona como barrera de inclusión/exclusión contra las demandas de transparencia, como comentó hace ya 4 años Cathy O’Neil en su libro “Weapons of Math Destruction”. En este caso particular, la aplicación de esta moderación fue particularmente cruel contra un tipo muy especial de outliers: los estudiantes excepcionalmente buenos de escuelas con rendimientos históricos bajos. O para decirlo de otra manera y que en la gran mayoría de los casos es lo mismo: los alumnos excelentes de escuelas pobres.

"si los algoritmos son aplicados de forma acrítica para predecir comportamientos y resultados, no hacen otra cosa que pronosticar lo más probable: la determinación cruel del reproductivismo social. Pero no todo destino social es una reproducción de las condiciones de origen"

Compartir:

La moderación tuvo un componente adicional. En escuelas pequeñas, se consideró que no existía la suficiente muestra como para tener una distribución esperada histórica confiable a la cual asimilar los nuevos resultados, por lo que se decidió no aplicar la moderación de notas. En Gran Bretaña, escuelas pequeñas es un proxy de escuelas privadas o de zonas ricas. Es decir, los estudiantes de zonas más pudientes no sólo fueron favorecidos por un rendimiento histórico más alto al cual asimilar sus rendimientos actuales, sino que en algunos casos ni siquiera se vieron afectados por la moderación de notas.

Como ya fue argumentado en múltiples ocasiones (las más de las veces por parte de los propios científicos de datos que los construyen), si los algoritmos son aplicados de forma acrítica para predecir comportamientos y resultados, no hacen otra cosa que pronosticar lo más probable: la determinación cruel del reproductivismo social. Pero no todo destino social es una reproducción de las condiciones de origen, aunque la mayoría de ellos lo sean. El caso de los estudiantes británicos es particularmente relevante porque la aplicación de un algoritmo lastimó quizás la imagen más poderosa del liberalismo para la cohesión social: la noción meritocrática de ascenso individual desde condiciones difíciles a través de la educación.


You Might Also Like

Comentarios

Dejanos tu comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.