TE RECOMENDAMOS
IBM informó que ha decidido abandonar el negocio del reconocimiento facial porque le preocupa que dicha tecnología se utilice para la vigilancia de masas y el encasillamiento racial.
Las actuales protestas por la muerte de George Floyd han despertado una consideración más amplia sobre la injusticia racial y una revisión al uso de la tecnología policial para rastrear a manifestantes y vigilar vecindarios en Estados Unidos.
IBM es una de varias grandes firmas tecnológicas que habían buscado mejorar la precisión de su software de reconocimiento facial debido a que en investigaciones se le han encontrado disparidades raciales y de género, Sin embargo, el nuevo director general de la compañía, Arvind Krishna, se ha preguntado si esa tecnología debe ser utilizada por la policía.
“Creemos que es hora de comenzar un diálogo nacional en torno a si la tecnología de reconocimiento facial debe ser utilizada y de qué manera por parte de las agencias policiales del país”, escribió Krishna en una carta dirigida el lunes a legisladores federales.
Es poco probable que la decisión de IBM de suspender el desarrollo y venta de software de reconocimiento facial afecte sus resultados, porque la empresa se ha concentrado más en la computación en nube mientras varias firmas menos conocidas han acaparado los contratos gubernamentales para reconocimiento facial.
“Sin embargo, la naturaleza simbólica de esto es importante”, dijo Mutale Nkone, investigadora en las universidades de Harvard y Stanford que dirige la organización sin fines de lucro AI For the People (Inteligencia Artificial para el Pueblo).
Nkonde dijo que la decisión de IBM de dejar de hacer un negocio “bajo el cariz de fomentar prácticas empresariales antirracistas” muestra que es posible hacerlo y vuelve “socialmente inaceptable que las compañías tuiteen Black Lives Matter mientras hacen contratos con la policía”.
La carta de Krishna estaba dirigida a un grupo de demócratas que han estado trabajando en el Congreso en una iniciativa de reforma policial tras las protestas multitudinarias por la muerte de Floyd. Dicha reforma podría incluir restricciones al uso de tecnología de reconocimiento facial por parte de la policía.
La práctica de utilizar una forma de inteligencia artificial para identificar a individuos en una base de datos de fotografías o en videos está bajo un mayor escrutinio después de que investigadores encontraran disparidades raciales y de género en los sistemas construidos por compañías como IBM, Microsoft y Amazon.
IBM había probado antes su software de reconocimiento facial con el Departamento de Policía de Nueva York, aunque éste ha utilizado en fecha más reciente la tecnología de otros proveedores. Se desconoce si IBM tiene contratos con otras agencias del gobierno.
Muchas agencias policiales de Estados Unidos utilizan el software de reconocimiento facial desarrollado por compañías menos conocidas, como NEC, con sede en Tokio, y las firmas europeas Idemia y Cognitec, según Clare Garvie, investigadora del Centro sobre Privacidad y Tecnología de la Universidad de Georgetown.
Un número menor se ha asociado con Amazon, que ha captado el mayor rechazo de los defensores de la privacidad desde que sacó a la venta su software Rekognition en 2016.
La carta de Krishna se pronuncia a favor de reformas policiales y subraya que “IBM se opone con firmeza y no condonará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la etiquetación racial” y violaciones a los derechos humanos.
Activistas de las libertades civiles han manifestado temor en las últimas semanas de que se esté utilizando la tecnología de vigilancia para monitorear las protestas o hacer efectivas las normas para contener la pandemia de coronavirus.
Incluso desde antes de las manifestaciones, senadores federales ya tenían bajo la lupa a la empresa de reconocimiento facial Clearview, con sede en Nueva York, tras la publicación de diversos artículos de investigación sobre la práctica de la firma de compilar miles de millones de fotografías de las redes sociales y otros servicios de internet para identificar a personas.
