Parece que el software de reconocimiento facial de Amazon (y, en general, el del resto de fabricantes) no está totalmente optimizado, tal y como han podido comprobar dos legisladores demócratas negros en Estados Unidos, donde la tecnología de reconocimiento facial hecha por Amazon, que está siendo utilizada por algunos departamentos de policía y otras organizaciones, hizo coincidir incorrectamente a los legisladores con personas que habían sido arrestadas por un crimen, fundamentalmente negros e hispanos, en un experimento llevado a cabo por la Unión de Libertades Civiles (ACLU) de Estados Unidos:
Los errores surgieron como parte de una prueba más amplia en la que el grupo de libertades civiles usó el software facial de Amazon para comparar las fotos de todos los legisladores federales con una base de datos de 25.000 fotografías policiales disponibles públicamente. En la prueba, la tecnología de Amazon hizo coincidir incorrectamente a 28 miembros del Congreso con personas que habían sido arrestadas, lo que representa una tasa de error del 5 por ciento entre los legisladores.
La prueba desproporcionadamente identificó mal a los miembros afroamericanos y latinos del Congreso como las personas en fotografías policiales.
«Esta prueba confirma que el reconocimiento facial es imperfecto, sesgado y peligroso», dijo Jacob Snow, abogado de tecnología y libertades civiles de la ACLU en el norte de California.
Nina Lindsey, una portavoz de Amazon Web Services, dijo en un comunicado que los clientes de la compañía habían utilizado su tecnología de reconocimiento facial para diversos fines benéficos, como evitar el tráfico de personas y reunir a los niños desaparecidos con sus familias. Agregó que la ACLU había utilizado la tecnología de coincidencia de rostros de la compañía, llamada Amazon Rekognition, de una manera diferente durante su prueba a la recomendada por la compañía para las fuerzas del orden.