El reconocimiento facial de Amazon confunde a 28 congresistas con sospechosos de la policía

La Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés) ha puesto a prueba el sistema de reconocimiento facial de Amazon. Y los resultados han sido sorprendentes. La organización ha escaneado con el programa Amazon Rekognition las caras de los 535 miembros del congreso de Estados Unidos y las ha confrontado con 25.000 fotografías públicas de sospechosos de la policía. El sistema ha confundido a 28 congresistas con posibles delincuentes. Este hallazgo, sostiene la ACLU, muestra el peligro de que los organismos oficiales usen este tipo de tecnología.

Más información

La policía china usa gafas con reconocimiento facial para identificar a sospechosos

Nos hemos quedado con tu cara

Hablar con la máquina

"Que una identificación sea precisa o no puede costarle a una persona su libertad o incluso su vida", explica la ACLU en un comunicado. Este sistema de reconocimiento facial, según afirma la organización, ya es utilizado por algunas instituciones. Por ejemplo, un departamento de la policía en Orlando, lo ha usado en una prueba piloto. "El Congreso debe tomarse en serio estas amenazas, pisar el freno y promulgar una moratoria sobre la aplicación de la ley para el reconocimiento facial", ha expresado.

Un portavoz de Amazon ha atribuido los malos resultados a una mala calibración del sistema, según recoge el diario especializado en tecnología The Verge. Las pruebas realizadas por la ACLU se han realizado con el umbral de confianza predeterminado por el programa, que es de un 80%. Pero la compañía recomienda que organismos oficiales como el Gobierno o la policía usen un umbral de un 95%, ya que las consecuencias de una equivocación pueden ser graves: "Una identificación podría costarle a la gente su libertad".

"Aunque el 80% de confianza es un umbral aceptable para las fotos de perritos calientes, sillas, animales u otros casos en las redes sociales, no sería apropiado para identificar individuos con un nivel razonable de certeza", ha explicado al mismo medio el portavoz. No obstante, el programa no recomienda en el momento de su configuración que el umbral sea del 95% y no hay nada que impida que estos organismos utilicen la configuración predeterminada, según señala The Verge.

La prueba realizada por la ACLU pone también de relieve la amenaza que el sistema de Amazon puede representar para las personas negras. Casi el 40% de las coincidencias falsas en este análisis se correspondían con las fotografías de personas de color, pese a que estas solo representan a un 20% de los congresistas.

Amazon Recognition ya fue objeto de polémica en mayo, cuando un informe de la ACLU determinó que el sistema estaba siendo utilizado por diferentes organismos oficiales. La policía de Orlando, según la asociación, usaba un programa piloto que usaba este sistema en tiempo real. El programa es muy económico, ya que tiene un coste de 12 dólares al mes —unos 10 euros— para un departamento entero.