La Seguridad Social usa una IA secreta para rastrear bajas laborales y cazar fraudes

Usted no lo sabe, pero si ha solicitado una baja laboral durante los últimos cinco años, un algoritmo de inteligencia artificial (IA) ha estado puntuando cada día su estado de salud. La Segu8ridad Social utiliza en toda España esta herramienta predictiva para tratar de adivinar algo muy complejo: la probabilidad de que una persona de baja esté lista o no para volver a su trabajo.

LMN 

El algoritmo determina qué expedientes de baja revisarán primero los médicos inspectores del Instituto Nacional de la Seguridad Social (INSS) y cuáles dejarán para el final. Se trata de un sofisticado programa informático que define el orden en que cada trabajador deberá visitar a un facultativo para saber si puede seguir cobrando el subsidio. El sistema identifica quién debería estar de vuelta en su empleo, y si no se ha tramitado ya el alta, señala el expediente como un posible caso de fraude.

De este algoritmo y de su capacidad de predicción depende en parte el derecho de un trabajador de baja a seguir recibiendo su prestación. Pero también el buen funcionamiento de la inspección de bajas de INSS: si el software identifica erróneamente un posible caso de fraude, esto puede suponer un gasto de tiempo y recursos en balde para los profesionales de la institución.

Una investigación de varios meses revela ahora detalles de una herramienta integrada en las tripas de la Seguridad Social y sobre la que apenas existe información pública. Varios documentos obtenidos en exclusiva muestran también por primera vez cómo funciona, los factores que tiene en cuenta para puntuar cada expediente de baja y su nivel de fiabilidad. Múltiples expertos consultados destacan la opacidad de este proyecto y se muestran escépticos sobre la precisión de los algoritmos, según la información a la que se ha tenido acceso.

El origen del Modelo de Priorización de Citas, nombre con el que se conoce el sistema dentro del Ministerio de Seguridad Social, se remonta a 2014. Ese año, el Gobierno adquirió un paquete de software a la multinacional SAS Institute por 1,5 millones de euros con destino a la Gerencia de Informática de la Seguridad Social (GISS).

Poco después, la Seguridad Social empezó a trabajar con View Next, una subsidiaria de IBM en España especializada en inteligencia artificial y big data. El ministerio con mayor presupuesto del Gobierno español comenzaba así un proyecto de renovación tecnológica interna con un fin ambicioso: usar los millones de datos en su poder de los contribuyentes no solo para gestionar prestaciones públicas, sino también para predecir situaciones o conductas de los ciudadanos.

En la práctica, este modelo se divide en dos algoritmos. El primero (denominado Primeras Citas) analiza todos los expedientes de baja por incapacidad temporal (IT) que todavía no han sido revisados por un médico inspector del INSS. El segundo (Citas Sucesivas) hace lo mismo con las bajas sobre las que ya hay un diagnóstico médico. 

El Modelo de Priorización de Citas usa datos personales de cada trabajador, como su sexo, edad, lugar de residencia e historial de bajas médicas. También, en algunos casos, el diagnóstico que ha hecho un facultativo sobre su enfermedad. Basándose en estos criterios, la Inteligencia Artificial puntúa cada expediente. Sin embargo, entre los resultados que ofrece el sistema y la realidad de cada paciente hay un enorme trecho. 

La forma en que el Ministerio de Seguridad Social ha desarrollado este proyecto, que afecta al acceso de los ciudadanos a una prestación pública, va en contra, según fuentes consultadas de un uso responsable de IA en el sector público. 

Se desconoce el tipo de datos con que el sistema ha sido entrenado. Es un aspecto clave para averiguar si los algoritmos podrían estar discriminando a algún colectivo, una de las grandes preocupaciones en el campo del aprendizaje automático. Y otra incógnita: ¿se están tratando esos datos médicos, considerados legalmente sensibles, bajo los criterios exigidos por la ley de protección de datos? ¿Se ha realizado alguna evaluación que garantice que su uso está siendo proporcional? El ministerio tampoco ha querido aclararlo. 

La falta de transparencia no es el único inconveniente en este megaproyecto. Los propios usuarios del sistema (los médicos inspectores) y el alto cargo del INSS reconocen otro problema más preocupante: los fallos y la imprecisión de los algoritmos.

Para entender un algoritmo y las decisiones que toma, es básico conocer qué factores tiene en cuenta (y la importancia de cada uno) a la hora de realizar los cálculos. Desde el Ministerio de la Seguridad Social se niegan a compartir esta información.

Solo meses después, mediante una petición a través del Portal de Transparencia, el ministerio facilitó una lista de las variables usadas acompañada de una descripción incompleta sobre los factores que esta IA tiene en cuenta. Sin embargo, la información entregada no permite conocer con exactitud el origen y la naturaleza de estos datos.

La pandemia del covid-19 truncó los planes de la Seguridad Social para el Modelo de Priorización de Citas. Los algoritmos de aprendizaje automático necesitan ser entrenados de manera intensiva para mejorar su precisión. Los médicos del INSS consultados explican, sin embargo, que estos sistemas predictivos han estado metidos en un cajón. Pese a ello, siguen vigentes y en uso a día de hoy.

Varios médicos contactados a finales de 2022 señalan cómo en los últimos meses, poco a poco, se ha ido retomando el uso de este sistema. Pero arrojan las mismas dudas sobre la precisión del mismo y su reflejo de la realidad sanitaria actual en España. «Tú ahora te dejas guiar por esta herramienta y, si no aplicas un factor de corrección como puede ser una lista de espera quirúrgica, te encuentras que procesos marcados como resueltos por el sistema no lo están«, advierte uno de los jefes de unidad médica consultados.

En definitiva, la información obtenida en esta investigación deja en el aire muchas incógnitas sobre cómo la Seguridad Social está usando la inteligencia artificial para predecir y atajar algo tan complejo y delicado como el fraude en las bajas laborales. ¿Están los algoritmos cometiendo errores que pueden provocar que un trabajador pierda el acceso a una prestación a la que tiene derecho? Ahora mismo, solo los funcionarios y responsables del INSS lo saben a ciencia cierta. Los casi un millón de empleados que en España dependen de esta prestación cada año esperan una respuesta.