¿Cómo cambia el reconocimiento facial la rendición de cuentas?
Durante las protestas por George Floyd en 2020, los ciudadanos grabaron a la policía en tiempo real. Los teléfonos estaban dirigidos hacia los oficiales, no entre los manifestantes. El objetivo era claro: documentar las acciones del Estado. Ese material se difundió rápidamente y pasó a formar parte de un conjunto mucho mayor de datos públicos disponibles en la red.
Al mismo tiempo, reportes de medios como The New York Times y BuzzFeed News revelaron que las fuerzas del orden estaban utilizando herramientas de reconocimiento facial, incluidos sistemas desarrollados por Clearview AI. Dichos sistemas fueron construidos a partir de miles de millones de imágenes extraídas de todo internet, incluyendo fotos y videos de acceso público.
El enfoque básico es ahora rutinario: las personas graban al Estado, o cualquier otro evento —como el ataque al Capitolio de EE. UU. del 6 de enero—, y el Estado compila ese material y los datos en un entorno con capacidad de búsqueda, que posteriormente podría utilizarse para identificar a algunas de las mismas personas que capturaron las imágenes originalmente.
¿Están los sistemas de vigilancia superando las leyes?
Los sistemas de reconocimiento facial utilizados por las fuerzas del orden superan cada vez más a las salvaguardas legales existentes. Una revisión de 2024 de la Government Accountability Office (GAO) encontró que las agencias federales continuaron expandiendo el uso de sistemas de reconocimiento facial para investigaciones criminales, a pesar de las preocupaciones persistentes sobre capacitación, protecciones a la privacidad, salvaguardas de libertades civiles y supervisión.
Hallazgos previos de la GAO mostraron que las agencias habían realizado aproximadamente 60,000 búsquedas de reconocimiento facial antes de que se establecieran requisitos formales de capacitación para el personal que utiliza los sistemas. La American Civil Liberties Union (ACLU) y otros grupos han advertido que estas herramientas podrían utilizarse para identificar a personas a partir de imágenes compartidas en línea, incluyendo material relacionado con protestas.
Las preocupaciones sobre el reconocimiento facial llevaron a algunos estados y ciudades de EE. UU., incluidos San Francisco y Boston, a restringir o prohibir el uso gubernamental de la tecnología, mientras que las agencias federales han seguido enfrentando escrutinio sobre cómo se prueban, despliegan y auditan dichos sistemas. Un análisis de 2024 publicado en Internet Policy Review advirtió que los sistemas de reconocimiento facial utilizados por las fuerzas del orden superan cada vez más a las salvaguardas legales destinadas a gobernarlos, creando tensiones crecientes en torno a la protección de datos, la supervisión y el uso proporcional.
La red de espionaje que se construyó sola
La vigilancia solía requerir infraestructura dedicada. Las cámaras debían instalarse y los datos debían recopilarse de manera deliberada. Ese ya no es el caso. Las personas llevan cámaras a todas partes. Graban constantemente y cargan contenido en tiempo real. Los eventos se documentan desde múltiples ángulos sin planificación ni coordinación previa. El resultado acumulativo es un flujo continuo de datos utilizables: rostros, ubicaciones, marcas de tiempo e interacciones.
El Internet de las Cosas (IoT) también nos rodea, recopilando información y liberándola cuando la gente menos lo espera, tal como lo describe Andrew Guthrie Ferguson en un extracto reciente de su libro Your Data Will Be Used Against You.
Dinámicas similares están emergiendo a nivel global. Un análisis reciente en el International Journal of Law and Information Technology examinó cómo los sistemas de reconocimiento facial en China y Japón se están expandiendo más rápido que los marcos legales que los regulan. Informes de The Guardian describieron las limitadas protecciones legales en torno al rápido despliegue de infraestructura de vigilancia asistida por IA en partes de África.
Solía haber una distinción clara entre vigilancia y rendición de cuentas. La vigilancia significaba que los poderosos observaban a la gente; las autoridades tendían a no compartir sus imágenes excepto bajo coacción o por orden judicial, y generalmente después de un largo retraso. La rendición de cuentas significaba que la gente observaba a los poderosos, a menudo publicando imágenes de inmediato para prevenir o contrarrestar travesuras oficiales. Esa distinción ya no se sostiene. El mismo metraje puede cumplir ambos roles. Una grabación destinada a la justicia puede convertirse en un activo para el control estatal, cerrando un ciclo de vigilancia donde la sociedad civil termina alimentando involuntariamente la infraestructura que la supervisa.
Vía IEEE Spectrum.
