Salvo aquellos que como Thoreau hayan tenido la feliz posibilidad de haberse ido a vivir a los bosques, los demás estamos atados a la tecnología. Lo que antes fue una elección ahora resulta imprescindible para la vida diaria, y si no era poco convivir con las amenazas a la privacidad o los excesos de vigilancia, ahora nos enfrentamos a la opacidad de los algoritmos. Que como además forman parte de la inteligencia artificial parecen algo arcano, difícil de entender y que se concretará en el futuro. Nada más lejos de la realidad. Las IAs ya están tomando decisiones como programas que, orientados por el programador hacia un fin, persiguen un objetivo. En las anteriores revoluciones industriales esa conquista fue maravillosa, y ajena a la ética, pues si por un lado de la máquina metías metal y por el otro salían tornillos, qué maldad podía encerrarse en la fabricación. Hoy es bien distinto, porque las IAs están ayudando a gobiernos, fuerzas y cuerpos de seguridad o científicos a tomar decisiones que nos afectan, y mucho.
Algorithm Watch, organización europea dedicada a analizar la implantación de algoritmos en la UE, nos revelaba en su informe de 2020 el alcance del uso de estas IAs por parte de los gobiernos de la Unión. Con casos especialmente significativos, como el de los servicios sociales alemanes. Empleando el programa JUST-IT de IBM, pese a que ya había sido denunciado por sus sesgos en Canadá, consiguieron alargar el proceso administrativo y las concesiones de ayudas sociales. Estableciendo además un menor tiempo de dedicación por parte de los funcionarios a las personas necesitadas de asistencia. ¿Cómo y porqué había decidido tal cosa el algoritmo? Nadie supo explicar el motivo de su sesgo, que ahora está bajo investigación gubernamental. Una vez denunciado por los ciudadanos que lo percibieron.
Los algoritmos también pueden servir para generar situaciones más justas. Los riders de Finlandia lanzaron una campaña para explicar a los usuarios cómo pretendían negociar sus condiciones de trabajo apelando al algoritmo de las empresas para las que trabajaban. Ningún humano decidía cuántos repartos recibía cada trabajador autónomo, ni la valoración que le llevaba a tener más trabajo y más ingresos. La máquina encargada, centrada únicamente en la eficiencia, les penalizaba por sus minutos dedicados al descanso, o los días de ausencia si tenían un accidente y estaban de baja. Unidos en una plataforma, pidieron a usuarios y simpatizantes que valoraran su servicio siempre con cinco estrellas, obligando al algoritmo a ignorar ese sesgo sobre tiempos de parada. Hasta que el sistema de valoración del algoritmo resultó completamente inútil, pues todos los empleados alcanzaban la máxima puntuación. La empresa tomó medidas, y hoy esos riders disponen de salas de descanso, y de una cantidad asignada para equipos de protección individual.
El problema es que tanto si consideramos los beneficios de su uso como sus perjuicios estamos completamente a oscuras sobre el sistema de decisión del algoritmo. Protegido por patentes, propiedad industrial e intelectual, no puede revelarse a la ligera sin perjudicar a la empresa que lo creó. Pero está claro que ese proceso de creación tiene que estar sometido a legislación y auditado porque de lo contrario acabaremos viviendo en la dictadura de las máquinas. O peor aún, en aquel pasado anterior a Platón, un filósofo que hace más de dos mil años nos llamó a superar el hedonismo y la ley del más fuerte. Su semilla, desarrollada por el cristianismo y luego por las revoluciones francesa y obrera, además de las constituciones y democracias, nos llevó al bienestar actual de occidente. Porque elegimos ser mejores con los demás. Y tenemos que obligar a las máquinas a que hagan lo mismo, a riesgo de caer en la más amarga de las distopías.
Martín Sacristán, periodista y escritor