El primer caso de un hombre acusado erróneamente por el reconocimiento facial
El detenido pasó más de treinta horas por el error de un algoritmo, lo que indica una vez que estos avances todavía no están preparados
En 2054, el capitán John Anderton es el jefe de la fuerza de policía PreCrime en Washington. En la cita dirigida por el polifacético director Steven Spielberg , el actor Tom Cruise es quien se pone en el papel. La cosa se va de madre en «Minority Report». Aunque es ficción, en la vida real el empleo de tecnologías para resolver crímenes está cada vez más a la orden del día. La tecnología de reconocimiento facial, que se ha incorporado como herramientas en algunos países, es la más cuestionada. Los fallos técnicos y los habituales sesgos que se producen amenazan su adopción futura en un contexto disputado por grandes empresas tecnológicas.
Pero no está exenta de fallos. Porque los algoritmos diseñados para detectar la culpabilidad en crímenes le queda aún bastante rodaje. Según informa «The New York Times» , un hombre afroamericano residente en Michigan estuvo detenido durante treinta horas después de que la tecnología de reconocimiento facial empleada por la policía confundiera su aspecto en un crimen que no cometió.
El curioso episodio se remonta a enero. Robert Julian-Borchak Williams recibió una una llamada del Departamento de Policía de Detroit cuando se encontraba trabajando en una oficina de una compañía de suministros de automoción. El agente con el que habló le adelantó su detención. Un hecho que se produjo, finalmente, a su regreso a su domicilio. Dos patrullas le abordaron, según el relato del medio estadounidense, delante de su esposa y sus dos hijas. Fue acusado de robar en octubre de 2018 unos cinco relojes de lujo valorados en 4.000 dólares en una tienda de joyería.
«¿Este eres tú?»
La policía llevó al detenido a la comisaría, donde le tomaron fotografías, las huellas digitales y muestras del ADN. Lo retuvieron durante toda la noche hasta que, alrededor del mediodía del viernes, dos detectives lo trasladaron a una sala de interrogatorios. La versión del detenido es que lo único que hicieron fue mostrarle tres imágenes procedentes de la cámara de seguridad. «¿Este eres tú?», dijo el agente. Se trataba de un hombre corpulento, vestido de negro y con una gorra . Los rasgos, aparentemente, coincidían con el detenido.
Para localizar al sospechoso, los investigadores emplearon el software DataWork Plus . La tecnología identificó al detenido gracias a cargar las imágenes de las cámaras de vigilancia. El sistema dio información relevante. Pero resultó un falso positivo. Algo que se produce muy habitualmente por la existencia de sesgos entre personas negras. A pesar de no ser culpable, tuvo que pasar varias horas hasta que fue liberado tras pagar una fianza de 1.000 dólares.
En la actualidad se ha abierto un intenso debate a escala internacional sobre el racismo en las detenciones. En Estados Unidos se han registrado decenas de protestas a raíz de la muerte a manos de un agente de policía de George Floyd . Un hecho que ha despertado, además, las dudas sobre los sistemas de vigilancia utilizados por la policía. Los sistemas de reconocimiento facial se llevan utilizando por las fuerzas policiales desde hace varios años. Estudios recientes realizados por el MIT y el Instituto Nacional de Estándares y Tecnología (NIST) h an encontrado que sesgos e imprecisiones entre personas de color oscuro.
De hecho, la tecnología funciona relativamente bien entre personas blancas, pero sus resultados son menos precisos debido a la falta de diversidad en las imágenes utilizadas para desarrollar las bases de datos con las que «entrenar» a los software. Empresas de tecnología como IBM, Microsoft y Amazon han anunciado recientemente que dejará de vender sus herramientas de reconocimiento facial a los cuerpos de seguridad. En un comunicado , la policía ha pedido perdón.
Noticias relacionadas
