La tecnología de reconocimiento facial como dilema social

IMAGE: Gerd Altmann - Pixabay (CC0)

Hace tres días, IBM, mediante una carta a los miembros del Congreso de los Estados Unidos, anunció que abandonaba el desarrollo de tecnologías de reconocimiento facial de propósito general debido a su potencial para la vigilancia masiva, las violaciones de los derechos humanos, y la discriminación racial.

El CEO de IBM, Arvind Krishna, pedía en su carta que se reconsiderase la venta de este tipo de tecnologías a las fuerzas del orden, un gesto con el que la compañía, que después de todo estaba anunciando el abandono de una tecnología en la que no es en absoluto líder y con una importancia prácticamente nula en su cuenta de resultados, lograba poner presión en las compañías que sí tienen contratos con esas fuerzas del orden, particularmente Amazon y Microsoft. Al día siguiente, Timnit Gebru, una de las líderes del equipo de ética aplicada a la inteligencia artificial de Google, afirmaba en una entrevista al New York Times que el uso de las tecnologías de reconocimiento facial por las fuerzas del orden o en seguridad debería estar prohibido en la actualidad, y que desconocía como llegaría a evolucionar el tema en el futuro.

Un día después, el miércoles 10, Amazon anunciaba una moratoria de un año en el uso por parte de la policía de su tecnología de reconocimiento facial, la polémica Rekognition, con el fin de seguir mejorándola y, sobre todo, de dar tiempo al gobierno para llegar a un consenso razonable y establecer regulaciones más estrictas para un uso ético de la misma. La compañía continuará facilitando el uso de esta tecnología a instituciones que la usen con otros fines, como evitar la trata de personas o reunir a niños desaparecidos con sus familias, pero dejará de ofrecerla temporalmente a la policía y fuerzas del orden, uno de sus principales clientes.

La tecnología de reconocimiento facial se encuentra ante un dilema fundamental: con su desarrollo en un nivel de madurez ya muy razonable, posibilita numerosos usos en el ámbito privado que aportan comodidad y facilitan la vida al usuario, como el desbloqueo de dispositivos o el acceso a determinados espacios. Pero en la esfera pública, puede ser, y de hecho está siendo utilizado en muchos casos para la monitorización y el control de la población, con una ubicuidad y una sencillez cada vez mayor, y con resultados no siempre adecuados.

La disyuntiva es la de siempre: como cualquier otra tecnología, no es buena ni mala, sino que todo depende del uso que hagamos de ella. Y en cualquier caso, como ya he comentado en numerosas ocasiones, nunca va a ser «desinventada», y menos al nivel de difusión que tiene ya. Pensar que vamos a dejar de utilizarla para desbloquear nuestros dispositivos, o que China va a pensar en abandonar el uso prácticamente ubicuo que hace de ella resulta sencillamente absurdo. Estamos, una vez más, ante un caso en el que se hace indispensable la regulación, y de una manera que, además, definirá mucho el modelo de sociedad en el que queremos vivir.

La polémica sobre el uso del reconocimiento facial se extiende ya a todo el mundo. En los Estados Unidos, ciudades como San Francisco o Somerville ya habían dado el paso de prohibir el uso del reconocimiento facial por la policía y otras agencias, y se había generado una importante corriente de opinión que pedía su regulación urgente. En Europa se estaba considerando una prohibición temporal de su uso en lugares públicos que podría llegar a los cinco años. Mientras, en China se utiliza para todo de manera ubicua, más aún después de la pandemia, y hasta extremos difíciles de entender para cualquier occidental.

De nuevo, la cuestión resulta paradójica: seguramente, la sociedad china actual evoca las distopías más desagradables a muchos ciudadanos del mundo occidental. Sin embargo, si nos molestamos en pulsar la opinión de los ciudadanos chinos, nos sorprendería encontrar que, salvo algunos núcleos de resistencia y de cierto activismo pro-privacidad, la gran mayoría no solo aceptan el control de su actividad mediante cámaras e incluso el aparentemente siniestro sistema de puntuación social que parece evocar un episodio de Black Mirror, sino que incluso lo justifican y lo consideran una forma de garantizar la estabilidad, el progreso y la seguridad de su sociedad – y más aún tras la experiencia de la pandemia.

A los que tengan la tentación de evocar la famosa frase de Benjamin Franklin que afirma que «aquellos que renunciarían a la libertad esencial para comprar un poco de seguridad temporal no merecen libertad ni seguridad», simplemente recordarles que el viejo Ben Franklin es un paradigma del pensamiento occidental, nunca fue un pensador oriental. Si tratamos de buscar conclusiones similares en el pensamiento de Confucio, Lao-Tse o incluso Buda, me temo que nos costará mucho encontrar ningún principio comparable. Como siempre, tratar de analizar Oriente desde una óptica exclusivamente occidental siempre ha sido una mala idea.

China ha encontrado en el reconocimiento facial una tecnología que se adapta muy bien a sus intereses, y continuará desarrollándola digan lo que digan IBM u Occidente. Si Occidente renuncia a desarrollarla, simplemente terminará teniendo que adquirírsela a China. Y en Occidente, el reconocimiento facial, a falta de mejoras que eviten que sus algoritmos sean una posible fuente de discriminación, cabe esperar que, tras el proceso iterativo que termine dando lugar a una adecuada regulación, la seguiremos utilizando también, porque para muchas cosas es muy cómoda, y para otras, puede llegar a ser, con un balance adecuado, una forma de control razonable.

Una vez más: la tecnología no se desinventa, y el reconocimiento facial no va a ser una excepción. Pero si el gesto de IBM, aunque fuese sacrificando una baza que no tenía, sirve para que nos cuestionemos su uso y avancemos en su necesaria regulación para hacerla más justa, bienvenida sea.



Enrique Dans
Enlace: La tecnología de reconocimiento facial como dilema social

Uso de cookies

Este sitio web utiliza cookies para que usted tenga la mejor experiencia de usuario. Si continúa navegando está dando su consentimiento para la aceptación de las mencionadas cookies y la aceptación de nuestra política de cookies, pinche el enlace para mayor información.

ACEPTAR
Aviso de cookies