La detención errónea de una embarazada reaviva el rechazo a los sistemas de reconocimiento facial

El creciente uso de herramientas de identificación biométrica en Nueva York no ha causado hasta ahora más controversia que las críticas por invasión de la privacidad a los supermercados, que han recurrido en masa a cámaras y escáneres para prevenir hurtos. “Esta tecnología nos ayuda a reducir el número de robos”, explica un cartel a la entrada de un conocido supermercado de Manhattan. El año pasado, la patronal neoyorquina registró 63.000 robos en tiendas, un 45% más que en 2021. Grandes estadios en todo el país han adoptado también herramientas automatizadas como el escáner del iris o del óvalo facial para controlar el acceso del público, y el Madison Square Garden se ha visto en el disparadero porque lo hace para discriminar a individuos molestos, sobre todo abogados implicados en litigios contra el legendario pabellón.

Pero una cosa es lo que ocurre en Nueva York y otra en el resto del país, donde ciudades como San Francisco han prohibido su uso, mientras otras (por ejemplo, Oakland y Berkeley, en California, y Somerville, en Massachusetts, todas ellas regidas por demócratas) están valorando seguir su ejemplo. Se sabía que las herramientas de reconocimiento facial impulsadas por la inteligencia artificial han producido fallos, generando imágenes falsas o incurriendo en sesgos de confirmación tan inmediatos como fáciles, la mayor parte de las veces sin consecuencias. Pero en ocasiones el uso de esta tecnología tiene un impacto más grave en la reputación y el bienestar de las personas. Es el caso de Porcha Woodruff, una mujer de 32 años de Detroit, que fue arrestada y esposada en febrero en su domicilio, delante de sus dos hijas, durante un operativo policial.

A Woodruff se la acusaba (de manera errónea) de un atraco y el robo de un coche. Las autoridades tenían imágenes de videovigilancia de una gasolinera donde se produjo el suceso, que mostraban a una mujer en flagrante delito, y las sometieron a una herramienta de reconocimiento facial de DataWorks Plus para identificarla. Pese a ese despliegue de medios, los agentes no tuvieron en cuenta un pequeño detalle cuando, pocos días después de cometerse el delito, irrumpieron en el domicilio de Woodruff: la ladrona no estaba embarazada. Ella sí, de ocho meses.

Woodruff es la primera mujer arrestada por error en EE UU a consecuencia de una falsa identificación, pero ha habido más casos. Solo en Detroit se trata del tercer expediente en el que está involucrada la policía local, que de media realiza 125 búsquedas con reconocimiento facial al año, casi todas de hombres negros, según estadísticas entregadas a la junta ciudadana de supervisión. Woodruff es la sexta persona en el país acusada falsamente por culpa del uso automatizado de tecnología de reconocimiento facial, que vincula el rostro de un delincuente desconocido con una fotografía de una base de datos determinada. La fotografía de Woodruff figuraba en los archivos policiales por haber conducido con el carné caducado hace unos años.

El daño hecho a la reputación de Woodruff, que fue esposada a la puerta de su casa, delante de los vecinos, fue incluso menor que el causado a su salud, por su avanzada gestación. “Tuve contracciones mientras estaba en la celda. Tenía dolores agudos en la espalda. Sufrí espasmos. Estuve a punto de sufrir un ataque de pánico”, explicó Woodruff, que estudia enfermería, al diario The New York Times. “Fue un suplicio estar sentada en esos bancos de cemento, me dolía todo el cuerpo”. El hecho de que estuviera arreglando a sus dos hijas para ir al colegio no detuvo a los seis agentes que acudieron a detenerla. La hicieron salir a la puerta, donde la esposaron, mientras ella solo acertaba a preguntarles si era una broma, mientras se señalaba la barriga. Tras 11 horas detenida, y el pago de una fianza de 100.000 dólares, la mujer fue puesta en libertad ese mismo día. De la comisaría fue directamente al hospital, donde apreciaron que estaba deshidratada. Un mes después, el fiscal desestimó el caso. A primeros de agosto, Woodruff interpuso una demanda por arresto indebido en contra de la ciudad de Detroit, ante el tribunal federal del distrito este de Míchigan.

Según documentos entregados a la junta ciudadana de supervisión, DataWorks Plus es el proveedor de tecnología de reconocimiento facial que utiliza la policía para comparar rostros desconocidos con una base de datos policial de fotos que figuran en las fichas de delincuentes; el sistema usa la IA para presentar las coincidencias ordenadas según el cálculo de probabilidades. En última instancia, un analista humano se encarga de decidir si alguna de las opciones es consistente. Como sucedió, por ejemplo, en el caso de Robert Williams, otro vecino de Detroit que fue arrestado en enero de 2020 por robo en una tienda debido a una coincidencia de reconocimiento facial incorrecta, por la cual la fiscalía se disculpó tiempo después.

Normas para la identificación biométrica

“Datos biométricos del cliente pueden ser recopilados”, advierte el cartel de un conocido supermercado de Manhattan. Porque cualquier negocio o establecimiento de Nueva York debe, por ley, informar mediante anuncios bien visibles de que somete a vigilancia biométrica al cliente. El gigante del comercio electrónico Amazon fue denunciado en marzo por no avisar explícitamente del uso de estos métodos (como el escáner de la palma de la mano y la medición corporal del cliente) en sus tiendas de la Gran Manzana.

EE UU no es el único país que utiliza herramientas de identificación biométrica. En el Reino Unido, los negocios utilizan tecnología de reconocimiento facial que usa IA para prohibir la entrada a sus establecimientos a personas con antecedentes por robo. Bruselas blinda sus fronteras recopilando datos biométricos de aquellas personas que entren en territorio europeo; una medida, según los expertos, con alto potencial discriminatorio. Las fuerzas de seguridad españolas se disponen a adoptar el programa ABIS (siglas en inglés de sistema automático de identificación biométrica) para identificar en segundos a sospechosos a partir de cualquier tipo de imagen. Más allá de las dudas sobre la transparencia de esos sistemas, y el comprensible temor de la ciudadanía a verse vigilada o espiada, el caso de Pocha Woodruff es una llamada de atención sobre los riesgos de la proliferación de este tipo de tecnología.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.