Cuando una persona camina por la calle, los demás peatones no conocen su nombre, su profesión, su lugar de residencia, si tiene hijos o lo que acaba de publicar en línea.
Sin embargo, si una cámara ubicada en una esquina captura su rostro, la entidad responsable de dicha cámara podría llegar a saber todo eso, aunque de manera ilegal, siempre que esté equipada con una herramienta avanzada de biometría facial y que tenga acceso a una vasta base de datos en Internet.
Este es precisamente el tipo de operación que lleva a cabo una de las compañías más enigmáticas que existen, la estadounidense Clearview AI. Con una base de imágenes que actualmente excede los 40.000 millones (lo que equivale a una media de cinco fotografías por cada humano del planeta) ha transformado el vasto océano de fotos en Internet en una mina de oro de reconocimiento facial, construyendo lo que se convertiría en un atlas de rostros humanos más extenso del mundo. El mapa reúne, además, un perfil digital individuo; dónde han sido publicadas las fotos y el contenido relacionado con ella.
A través de un sofisticado algoritmo de reconocimiento facial, la empresa afirma que puede identificar a esas personas con una precisión del 99,85%. Pero su programa ha tenido fallos, entre ellos destacan los sesgos raciales y la identificación equivocada de personas. Pese a ello, la empresa ha vendido su tecnología a gobiernos, fuerzas de seguridad y grupos de poder económicos y políticos hasta que ha caído en batallas legales y judiciales. En la Unión Europea está prohibida, pero en Estados Unidos sigue operando en gran parte de los estados.
El director adjunto la organización no partidista y sin fines de lucro que busca promover los derechos y libertades civiles en la era digital Centro de Democracia para la Tecnología (CDT), Jake Laperruque, explica que el mayor problema de ClearviewAI radica en la forma con que ha tenido acceso a tantos rostros. Sin consentimiento explícito de los usuarios ni de las plataformas, la empresa ha hecho una recopilación masiva de imágenes faciales en Internet, que incluye portales de noticias, blogs, páginas webs y redes sociales como Facebook, Instagram e Twitter. Eso viola los derechos de privacidad según las normas de la Unión Europea, pero no hay una normativa a nivel federal que la prohíba en Estados Unidos. Su gigantesca base de datos es lo que la hace tan atractiva para los agentes de seguridad, especialmente aquellos de niveles más bajos, como sería la policía local. Ninguna fuerza del país norteamericano, ni siquiera el FBI, tiene tantas caras en un sistema.
Desde ClearviewAI defienden que el objetivo de su tecnología es ayudar a identificar criminales, agresores y fugitivos. Pero, en la práctica, ha sido empleada para muchas otras cosas, desde hurtos menores en comercios hasta en la identificación de participantes de manifestaciones. En su sitio web, muestran cómo ha facilitado el reconocimiento de quienes participaron en el asalto al Capitolio, y, más recientemente, esta compañía ha permitido nombrar soldados rusos, tanto vivos como fallecidos, en suelo ucraniano.
Con la capacidad casi que heroica en identificar a cualquiera, Clearview ha encendido un faro de controversias éticas y legales que van más allá que cómo se obtuvieron los datos. Su uso por parte de las fuerzas del orden público somete a los ciudadanos a una vigilancia policial, donde la privacidad individual se ve erosionada y la presunción de inocencia se debilita. Según Laperruque, que dirige el Proyecto de Seguridad y Vigilancia del CDT, dado que la empresa otorga licencias gratuitas para usar su programa, cualquier oficial de policía podría probarla, aun si la agencia donde trabaja no haya contratado el sistema.
Eso plantea riesgos considerables porque la mayoría de los oficiales no tiene conocimiento sobre cómo funciona la tecnología o cuánta credibilidad dar a una coincidencia en función de la calidad de la imagen. En general, no saben hacerle un uso responsable, lo que acaba dando lugar a errores. “Hay documentos sobre un número significativo de agencias que no necesariamente tienen contratos con Clearview, pero sus oficiales lo han usado a nivel individual”, dice a Retina por videoconferencia.
El experto aboga por aprobar nuevas leyes que impidan al Gobierno estadunidense comprar o utilizar datos que se hayan obtenido de manera ilegal o en violación de los términos de servicio. También propone que esas herramientas sean utilizadas solamente contra individuos sospechosos de crímenes graves y no para identificar personas en manifestaciones pacíficas, por ejemplo. El experto añade: “Además, hay que informar a las personas que han sido arrestadas de que se utilizó el reconocimiento en su caso, tanto como una forma de otorgarles sus derechos básicos para defenderse y ver si esta tecnología falló, como también para desincentivar el uso inapropiado o negligente. Es para que no se convierta en algo severo, como hemos visto en China, donde el reconocimiento facial se usa para imponer por cosas menores”.
¡Síguenos en nuestras redes sociales y descargar la app!
