Tecnología, vigilancia y estado del bienestar
Un tribunal de los Países Bajos ordena al gobierno que deje de utilizar algoritmos de inteligencia artificial para tratar de detectar fraudes en los subsidios condicionales que el gobierno entrega a determinados ciudadanos.
El sistema de indicación de riesgos (SyRI) del gobierno holandés es un modelo de machine learning desarrollado a lo largo de la última década por el Ministerio de Asuntos Sociales y Empleo, que trata de predecir la probabilidad de que un individuo cometa un fraude fiscal, como percibir subsidios que no le corresponden, o que viole las leyes laborales, por ejemplo, llevando a cabo trabajos de diversos tipos en el contextos de la economía sumergida mientras se encuentra cobrando el subsidio de desempleo.
El uso de este tipo de sistemas es cada vez más habitual en gobiernos de todo el mundo en países que tratan de aplicar el modelo del llamado estado del bienestar: una investigación de The Guardian el pasado octubre contabilizó un gasto de más de diez millones de dólares al año en el Reino Unido en el desarrollo de algoritmos para este tipo de control del fraude. Este tipo de algoritmos parten de la consolidación de datos de distintas fuentes, tales como empleo, nivel de endeudamiento, pago de impuestos, nivel de educación, vivienda, etc. que son analizados para tratar de identificar qué individuos podrían estar en mayor riesgo de incurrir en un fraude al estado, y tienden a aplicarse fundamentalmente en zonas de bajos ingresos, las que reciben la mayor parte de este tipo de subsidios.
Una coalición de asociaciones en defensa de la privacidad con el mayor sindicato de los Países Bajos denunció al gobierno argumentando que los habitantes de determinados barrios estaban siendo sometidos a un espionaje digital sistemático sin que existiese ninguna sospecha concreta de irregularidades individuales, algo que, al dirigirse de manera desproporcionadamente específica a los ciudadanos más pobres, podía suponer una violación de los derechos humanos. Según el veredicto del tribunal, que ha sido celebrado como «una victoria para los derechos de los pobres» por asociaciones como Human Rights Watch, esa legislación no posee suficientes salvaguardas contra las intrusiones de privacidad, además de tener un funcionamiento poco transparente que puede dar lugar a una discriminación en función del estatus socioeconómico o migratorio.
Los subsidios condicionales son uno de los argumentos más habitualmente utilizados para defender sistemas basados en la renta básica incondicional: la entrega de un subsidio en función de, por ejemplo, la pérdida del empleo, implica que si quien lo recibe encuentra otro empleo que le paga una cantidad similar a la de ese subsidio, tendrá un desincentivo a la hora de aceptarlo, o si lo hace, se verá sometido, al contabilizar la pérdida de ese subsidio, a una presión fiscal que puede ser, en algunos casos, superior al 50%, y que no tiene ningún sentido aplicar a una persona en un estado de necesidad. La aplicación de este tipo de esquemas incentivan comportamientos como la negativa a aceptar un empleo mientras dure el subsidio correspondiente o el intento de trabajar en la economía sumergida, al margen de toda contabilización.
Para los estados, este tipo de comportamientos implican la necesidad de establecer sistemas de vigilancia a sus ciudadanos para intentar evitar el fraude, algo que con la disponibilidad de tecnologías analíticas cada vez más potentes, puede llevarnos fácilmente desde el estado del bienestar al estado de la vigilancia. La solución propuesta por quienes apoyan sistemas basados en la renta básica incondicional supone entregar a cada ciudadano la cantidad necesaria para que no esté por debajo del nivel de la pobreza, pero en forma de un pago incondicional, al que no debe renunciar si encuentra un trabajo u otra fuente de ingresos. Este pago incondicional sería devuelto en forma de impuestos por aquellos ciudadanos que no lo necesitan porque superan un nivel de renta determinado, pero podría, en muchos casos, evitar el incentivo a recurrir a la economía sumergida o al fraude, y aliviar así al estado de esa necesidad de vigilancia permanente.
El coste de controlar y combatir el fraude en los sistemas basados en subsidios de asistencia social es muy elevado, aunque su contabilización no suele ser especialmente transparente ni suele comunicarse como tal. Incluyen desde los costes laborales de investigadores, fiscales, defensores públicos, jueces dedicados al tema u oficiales de libertad condicional, hasta costes administrativos para programas de vigilancia de desvíos de asistencia social, costes de prisión, y costes para ubicar a niños en custodia si el único padre tiene que cumplir condena por fraudes de este tipo. Se calcula que en el año 2008, California gastó tres veces más en sistemas de vigilancia del fraude de asistencia social que la cantidad de pago que resultó defraudada.
En un momento en que la cada vez mayor productividad de las máquinas inyecta niveles de riqueza cada vez más elevados en el conjunto de la economía, tratar de evolucionar hacia sociedades que evitan que sus ciudadanos caigan por debajo del nivel de la pobreza podría parecer un objetivo justo y razonable. Pensar que la alternativa es tan sencilla como poner impuestos a las máquinas resulta profundamente simplista, porque obvia que una máquina no es simplemente «un robot que sustituye a una persona», sino que en muchos casos es, por ejemplo, un programa de software, y que cuando esa máquina o programa mejora mediante una actualización y pasa a ser más potente, el cálculo de a cuántos supuestos trabajos humanos corresponde supondría un verdadero reto, o directamente sería absurda.
Los que critican los sistemas basados en la renta básica incondicional, sin embargo, afirman que podrían suponer o bien un incentivo para no trabajar, una «fábrica de vagos», o incluso un imán para la inmigración irregular, que podría tratar de acceder masivamente a los países en los que pudiesen aspirar a obtener esos beneficios, y que podría llegar a dar lugar a esquemas de subempleo para esos inmigrantes irregulares sin acceso a la renta básica.
La discusión, que tiende además a contaminarse en función de argumentarios políticos generalmente simplistas, es por supuesto compleja. Pero su aparente complejidad no debería suponer que ese tipo de esquemas no fueran sometidos a un estudio pormenorizado, sobre todo si la alternativa es prolongar el funcionamiento de sistemas de subsidios condicionados que, además de no funcionar especialmente bien, terminan obligando a los estados a aplicar tecnologías analíticas cada vez más potentes para vigilar y monitorizar a sus ciudadanos con el fin de evitar que cometan unos fraudes a los que, además, el propio sistema, en muchos casos, les aboca.
Enrique Dans
Enlace: Tecnología, vigilancia y estado del bienestar
