El verano pasado, mientras millones salieron a las calles para protestar contra la brutalidad policial tras el asesinato de George Floyd, las agencias gubernamentales no perdieron el tiempo en recurrir a los sistemas de reconocimiento facial para rastrear a los manifestantes. Al mismo tiempo, las autoridades comenzaron a instar al uso de máscaras para contener la epidemia de Covid-19, y muchos han descubierto sus beneficios en esta medida. Un estudio masivo publicado por el Instituto Nacional de Estándares y Tecnología en julio de 2020 encontróque la máscara podría engañar a algunos sistemas de reconocimiento facial en casi la mitad de los casos, lo que sugiere que los manifestantes enmascarados estaban obteniendo cierta protección de la vigilancia masiva.
Esto me llevó a pensar: ¿Cómo se pueden usar máscaras y otros accesorios cotidianos de manera más efectiva para confundir los sistemas de reconocimiento facial? Decidí averiguarlo.
Según Gothamist , el Departamento de Policía de la ciudad de Nueva York utilizó sistemas de reconocimiento facial (posiblemente combinados con fotos de las redes sociales) para acosar al activista de Black Lives Matter, Darrick Ingram. Ha habido informes de varias detenciones erróneas , especialmente de personas de raza negra, que se han llevado a cabo como consecuencia del uso de tecnología. Yo mismo he probado sistemas de reconocimiento facial como Clearview AI y he sido testigo personal de su poder. Debido al uso generalizado del reconocimiento facial para arrestar a los manifestantes, se han comenzado a hacer llamamientos para prohibir dichas tecnologías y ya ha comenzado una ola de actividad legislativa en todo el país sobre este tema.
Muchos activistas y manifestantes se mostraron reacios a esperar leyes que regulen el uso de sistemas de reconocimiento facial y tomaron el asunto en sus propias manos, ideando formas ingeniosas de causar interrupciones tecnológicas. En el curso fueron cosméticos y anti-supervisión , y pegatinas especiales personalizadas que parecen un código QR, y filtros para imágenes que actúan como "máscara" digital. Desafortunadamente, muchos de estos métodos no funcionan . Otros, como los cosméticos anti-vigilancia, requieren mucho tiempo y son llamativos. Las máscaras, por otro lado, son fáciles de quitar y poner y, además, se pueden usar en público sin llamar demasiado la atención.
El estudio del Instituto Nacional de Estándares y Tecnología sobre el efecto de las máscaras en el funcionamiento de los sistemas de reconocimiento fue inclusivo: incluyó 89 plataformas. Pero también tenía deficiencias. Por ejemplo, los experimentos no utilizaron máscaras reales: los investigadores colocaron máscaras digitales en las fotografías y luego cargaron las imágenes editadas para probar varios sistemas. También se encontró que el éxito del reconocimiento varía enormemente. Algunos sistemas pudieron hacer trampa el 50% del tiempo, mientras que otros solo el 5%. Configuré una serie de experimentos por mi cuenta para descubrir qué tipos de máscaras son mejores para jugar con los sistemas de reconocimiento facial.
Para las pruebas, elegí la función de comparación de rostros del programa Face ++ de Megvii. Rostro ++ - proveedor popular de servicios de reconocimiento. Se puede acceder a la plataforma a través de la API y cuesta solo $ 0.002 comparar un par de fotos, lo que hace que la plataforma sea accesible para casi todos. Además, según las revisiones , Face ++ hace un buen trabajo al reconocer rostros enmascarados. Lo más probable es que esto se deba al hecho de que la empresa de fabricación proviene de China, donde las máscaras eran populares incluso antes de la pandemia. El sistema probablemente se entrenó en fotografías de personas enmascaradas años antes de que entraran en uso en Occidente.
Comencé subiendo una foto muy común, en la que mi cara es claramente visible, a la plataforma Face ++, y luego agregué otra, casi idéntica, tomada exactamente con la misma iluminación. Desde el punto de vista del sistema de reconocimiento facial, estas son condiciones casi ideales para la comparación.
Como era de esperar, Face ++ hizo frente a la tarea y estableció la identidad con una precisión del 95,071%. Esto me dio una idea general de qué tan bien está funcionando el sistema.
Luego procedí a probar usando tipos comunes de máscaras. Primero, traté de tomar una foto con una simple máscara azul desechable. Las tomas, nuevamente, fueron tomadas en el mismo ángulo y con la misma iluminación.
Para darle crédito: la máscara no abrumaba demasiado a Face ++. La puntuación de probabilidad se redujo al 74,765%, una caída decente, pero aún bastante buena considerando que cubrí más de la mitad de mi rostro. Esto confirma mis conjeturas sobre el impacto del origen de Face ++, así como la corrección de todos los estudios que informan que las empresas ya están respondiendo a los efectos de la pandemia y están enseñando a sus sistemas a reconocer rostros enmascarados.
Luego comencé a probar diferentes diseños de máscaras. Supuse que la máscara N95 empeoraría aún más el resultado, ya que cubre un área grande. Sin embargo, en realidad, la precisión aumentó al 77,59%.
Cuando me puse la máscara de mi hijo con los personajes de la caricatura "Paw Patrol", la precisión saltó al 82,421%; creo que esto se debe a que la máscara es demasiado pequeña para mí y la cara se ve mejor. También intenté usar una máscara con una fotografía grapada de Tom Cruise frente a mí, con la esperanza de desanimar a Face ++ al tener una cara encima de la otra , una técnica que se ha utilizado con éxito antes que yo. No funcionó: el sistema identificó correctamente dónde estaba mi cara y encontró una coincidencia con una probabilidad del 79,191%. Bueno, esto no parece tan natural.
Luego probé un diseño anti-vigilancia personalizado creado con un programa de Python que crea un histograma de gradiente construido especialmente para confundir los algoritmos de reconocimiento. Tampoco salió nada de esto: la precisión, por el contrario, también aumentó al 83,864%. En esta etapa, ya estaba empezando a perder la paciencia. Face ++ parecía ser capaz de casi cualquier cosa. Cuanto más trataba de disfrazarme, con más confianza me reconocía.
En un último intento desesperado, decidí probar un método que parecía demasiado simple para funcionar. Me volví a poner mi sencilla mascarilla azul desechable, pero esta vez también le agregué las gafas oscuras que suelo usar. Cuando subí la foto a la plataforma Face ++, los resultados me dejaron estupefacto. La combinación de una máscara y gafas oscuras no solo redujo la precisión del reconocimiento, sino que también impidió que el programa detectara realmente un rostro en una fotografía. Simplemente agregando lentes a la máscara, me volví invisible para el sistema.
Parecía demasiado bueno para ser verdad, así que subí las mismas fotos a otro popular servicio de reconocimiento facial, FaceX . La API de FaceX configuró la foto enmascarada para que fuera idéntica con una probabilidad del 70,39%, un resultado comparable a Face ++. Pero con la adición de gafas oscuras, la probabilidad se redujo al 11,18%, lo que obligó al sistema a concluir que "estos rostros pertenecen a personas diferentes".
Pero, ¿por qué agregar lentes a una foto tuvo un efecto tan poderoso? Para responder a esta pregunta, no está de más echar un vistazo más de cerca a cómo las plataformas como Face ++ identifican a las personas. Dichos sistemas generalmente están entrenados para determinar un conjunto de varios puntos clave en la cara: la posición de los ojos, la nariz, la boca, la línea del cabello, la forma de la cara. Estos son los puntos clave que Face ++ reveló en mi rostro, fotografiado sin máscara (están marcados con puntos azules):
Agregar una máscara reduce la precisión de detección, pero no a cero. Incluso el N95 masivo permite que Face ++ distinga con bastante claridad entre ojos y cejas en mi cara. Basado en los pómulos, el sistema también puede completar los contornos de la parte del rostro oculta debajo de la máscara con una precisión aceptable. Incluso puede hacer algunas conjeturas más o menos razonables sobre dónde se encuentran mi nariz y mi boca debajo de mi máscara.
Pero cuando se usan anteojos oscuros, el sistema se ve privado de un conjunto rico y valioso de datos sobre los ojos y las cejas. Además, los bordes de las gafas bloquean tanto los pómulos que no se puede extraer mucha información de esta área. Sin embargo, la máscara aún oculta completamente la nariz y la boca y oculta el área del mentón. Tomados en conjunto, la máscara y las gafas parecen quitar tal volumen de datos de los sistemas que pierden la capacidad de comparar adecuadamente (y en algunos casos incluso reconocer un rostro en una fotografía, como sucedió con Face ++), y el el resultado es incorrecto.
Este es un gran éxito, especialmente si se tiene en cuenta que la máscara desechable habitual y los anteojos oscuros casi desde el comienzo de la pandemiasigue siendo mi traje de salida estándar. Si alguien en la calle me ve en esta forma, entonces no parpadeará y, al mismo tiempo, resulta que me vuelvo invisible para los sistemas de reconocimiento facial, que reconocerían tranquilamente mi rostro bajo una simple máscara.
¿Cuánto tiempo funcionará esta técnica contra los sistemas de reconocimiento facial? Difícil de decir. El reconocimiento facial como campo de conocimiento está en constante evolución. Dado que es sumamente útil en la investigación de delitos graves, además de perfilar a personas inocentes, es probable que tarde o temprano los creadores de algoritmos de reconocimiento sean capaces de adaptarlos a una combinación de máscara y gafas. Además, en algunos lugares públicos, las gafas oscuras están prohibidas y no todo el mundo las usa en interiores (las lentes transparentes no funcionan aquí, solo las oscuras). También es imposible decir con confianza que la tecnología podrá engañar a los algoritmos utilizados por la policía y las agencias gubernamentales; pueden diferir de los que son de dominio público. Finalmente, incluso sin tecnología de reconocimiento, estas instituciones han muchas otras formas de rastrear personas.
Pero por ahora, al menos para las plataformas que he analizado, la combinación de gafas de sol y una máscara es una forma simple y sorprendentemente efectiva de mantener el anonimato, incluso frente a la vigilancia masiva.