Aunque la tecnología de reconocimiento facial se lleva desarrollando durante años, la introducción de FaceID en el iPhone X de Apple para desbloquear el dispositivo con sólo mirarlo la ha popularizado enormemente y a la vez ha generado preocupación acerca de sus posibles implicaciones en la privacidad de los usuarios. La tecnología de FaceID consiste en un sensor con dos módulos, uno que proyecta una retícula de puntos infrarrojos sobre el rostro del usuario y otro que lee el patrón resultante en forma de mapa 3D. Este sistema funciona incluso si el usuario lleva gafas, maquillaje, ropa, barba, etc. y supone una forma aceptablemente segura de proteger el dispositivo.

Aunque se han desarrollado maneras de burlar este sistema con fotografías de rostros o incluso reproducciones tridimensionales elaboradas a partir de diferentes fotos de una persona publicadas en redes sociales, esto supone un riesgo bastante reducido para un usuario normal. Con todo, según indica Andrew Bud, director de la empresa de tecnología de reconocimiento facial iProov, FaceID tiene la debilidad de llevar a cabo todo el proceso de identificación en el propio dispositivo, para no depender de servidores externos y agilizar el proceso, pero eso quiere decir que una vez desbloqueado, el usuario tiene acceso a servicios que lo reconocen automáticamente pero no tienen manera de confirmar su identidad. Por otra parte, un aspecto clave de FaceID es que el proceso de identificación se lleva a cabo sin que el usuario se de cuenta de ello: con sólo mirar al teléfono, se activa la proyección de los puntos infrarrojos (invisibles para el ojo humano) y se inicia la identificación. Según señala Bud:

“Muchas personas han expresado su preocupación por el hecho de que una persona pueda ser identificada en su dispositivo sin su conocimiento o consentimiento. Un ladrón podría poner el teléfono frente al rostro del usuario para desbloquearlo. O un agente de policía, sin una orden judicial. Aunque la tecnología requiere que el usuario mire al teléfono, el proceso es tan rápido e invisible que el usuario podría no darse cuenta de que está siendo identificado.” (Bud, 2018, p.5)

Por tanto, la facilidad de uso que supone una tecnología como FaceID se ve contrarrestada con la inquietud que supone no ser capaz de controlarla, y sentirse potencialmente vigilado cada vez que se mira a una pantalla. Esta ya es una preocupación que generan las cámaras integradas en todos los dispositivos que empleamos a diario, y que ha popularizado la comercialización de delgadas pestañas que se pegan a la pantalla y permiten decidir si tapamos o no el objetivo de la cámara. A este hecho se suma la creciente inseguridad que provocan los posibles fallos en los sistemas de reconocimiento facial en su aplicación en contexto de vigilancia y seguridad. Recientemente, un artículo de Jacob Snow, abogado experto en tecnología y derecho civil, indicaba que el popular servicio Amazon Rekognition comete errores en la identificación de las personas. Para demostrarlo, hizo un experimento con las fotos de los miembros del Congreso de los Estados Unidos, que comparó con un archivo de fotos de criminales empleando la herramienta de Amazon. El resultado fue que Rekognition identificó como criminales a 28 miembros del Congreso, entre los cuales el 40% eran afroamericanos, lo cual señala que este tipo de sistemas de identificación es particularmente perjudicial para las personas de color, que ya sufren discriminación en su trato por parte de las fuerzas del orden en Estados Unidos. Según Snow:

“Una identificación, sea precisa o no, puede costarle a una persona su libertad o incluso su vida […] El reconocimiento facial también amenaza actividades protegidas por la Primera Enmienda, tales como manifestarse o profesar una religión, y puede emplearse para someter a los inmigrantes a un mayor abuso por parte del gobierno.” (Snow, 2018)

Esto es preocupante dado que Amazon está procurando difundir su tecnología entre las agencias gubernamentales, a lo que se opone un grupo formado por 70 grupos de derechos civiles, 400 miembros de la comunidad académica y más de 150.000 firmantes que han pedido que Amazon deje de facilitar tecnología de reconocimiento facial al gobierno de Estados Unidos. Hay que tener en cuenta, además, que Amazon ofrece su software al público libremente, permitiendo a cualquier usuario analizar “cualquier archivo de video o imagen.” Entre las funciones que puede realizar Rekognition están la detección de objetos (por ej., bicicletas, teléfonos, edificios), escenas (por ej., estacionamientos, playas, ciudades) y actividades específicas en ciertos vídeos (por ej. «entrega de un paquete» o «partido de fútbol»). También puede analizar los atributos de los rostros que aparecen en imágenes y videos que usted suministre para determinar, por ejemplo, felicidad, rango de edad, apertura de ojos, lentes, vello facial, etc. o registrar el recorrido de las personas en una escena de un vídeo. Finalmente, puede identificar famosos en bibliotecas de imágenes y videos para catalogar metrajes y fotos en casos de uso de los sectores de marketing, publicidad y multimedia. Estas funciones hacen de Rekognition una herramienta ciertamente útil, pero también potencialmente peligrosa, tal como indica Snow.

La integración de la tecnología de reconocimiento facial en todos los dispositivos que empleamos a diario es algo que sin duda se logrará en un corto plazo de tiempo, de hecho menos tiempo del que necesitaremos para darnos cuenta de sus implicaciones. Cabe preguntarse, por tanto, cómo pueden los diseñadores de experiencias de usuario contrarrestar los efectos de esta tecnología, establecer una relación de confianza en la que el usuario se sienta en control del dispositivo y seguro de poder disfrutar de sus ventajas sin sentir que pierde su intimidad o que su identidad está sometida a nuevas amenazas.

Referencias

Bud, A. (2018). Facing the future: the impact of Apple FaceID. Biometric Technology Today. Volumen 2018, Número 1, enero 2018, 5-7

Snow, J. (2018). Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots. American Civil Liberties Union, 26 de julio, 2018.