“Las comunidades tienen derecho a saber cuando los gobiernos utilizan peligrosas tecnologías de vigilancia para rastrear su vida diaria”, argumenta Matt Cagle, abogado de la American Civil Liberties Union, tras conocerse la prohibición del sistema de reconocimiento facial para municipios y policías de la ciudad de San Francisco, California.

El comentario del abogado estadounidense apunta a una política que se ha replicado en múltiples estados de Estados Unidos y también en el mundo. La justicia criminal está utilizando estas tecnologías, pero las características y la extensión de la aplicación de éstas se mantienen usualmente en secreto, dificultando una fiscalización externa.   

Según AI Now Institute, de NY University, nueve departamentos de policía han utilizado sistemas predictivos discriminatorios con minorías en Estados Unidos, La iniciativa tomada en San Francisco la transforma en la primera ciudad en tomar medidas efectivas contra las potencialidades negativas de estas tecnologías.

La ley Freno a la Ordenanza de Vigilancia Secreta consiste en dos puntos: Primero, prohibir la tecnología de reconocimiento facial y, segundo, obliga a los departamentos que quieran hacer uso de esta tecnología a publicar previamente sus propuestas, además de avisar públicamente de su uso. La letra chica, sin embargo, permite el uso del reconocimiento facial a las entidades federales.

La medida fue tomada a tan solo 65 kilómetros de distancia de Silicon Valley, centro icónico para el desarrollo de Inteligencia Artificial en Estados Unidos y donde nacen gran parte de los avances dentro de esta área. La base de datos de compañías de la empresa Crunchbox lista en 598 las empresas dedicadas al rubro.

Incursiones fuera de Estados Unidos

El uso de Inteligencia Artificial y, particularmente, de sistemas de Reconocimiento Facial con propósitos de vigilancia se ha dado en distintos países alrededor del mundo.

Según información publicada por el New York Times, China ha utilizado tecnologías de reconocimiento para identificar y controlar a miembros de una minoría musulmán dentro del país. Durante un mes, el gobierno chino realizó cerca de 500 mil escaneos faciales para reconocer a miembros de la etnia Uighur, pueblo que ya tiene alrededor de un millón de sus miembros en campos de detención dentro del país.

En Londres, como reportó INTERFERENCIA, el periodo de pruebas del sistema de Reconocimiento Facial entre 2016 y 2018 tuvo una tasa de error del 96%. Incluso, el sistema identificó erróneamente a un escolar afrodescendiente de 14 años como autor de un delito.

Chile también ha incursionado en este tipo de tecnologías. Durante pruebas de implementación, la Policía de Investigaciones registró un 90% de error con sistemas de reconocimiento facial. Sin embargo, hechos recientes apuntan a que el acercamiento de la policía chilena a la tecnología es más profundo que solo la realización de pruebas.

Beatriz Sotomayor, residente en Puerto Montt y funcionaria del área de Dirección de Obras de la municipalidad de dicha ciudad desde hace 20 años, fue acusada de estafar mediante cheques sin fondos a un vendedor de nueces de Paine. “No lo podía creer, yo nunca he estado ahí”, aseguró a INTERFERENCIA.  

Durante la toma de declaraciones realizada por la PDI, Sotomayor se enteró que había sido reconocida como la culpable por el vendedor estafado al revisar un set de fotos. Tras ser imputada por una estafa por más de tres millones de pesos, Sotomayor debió corroborar su inocencia mediante fotografías y correos que la situaban en la ciudad de Puerto Montt el día del delito.

“¿Qué pasa si ese día yo no salía de mi casa? ¿Qué pasa si en vez de un robo me acusaban de algo más grave?”, pregunta. La única explicación a la vinculación de su persona con un delito ocurrido a más de 900 kilómetros de su casa -en un lugar que nunca ha visitado- es la utilización de algún sistema de IA para vincular la foto de su cédula de identidad con quien estafó al vendedor de nueces.