El impacto del caso IA Clearview en los consumidores

Avast Security News Team, 16 marzo 2020

La tecnología de reconocimiento facial plantea muchos problemas complicados para la sociedad y los consumidores a los que afecta.

Al entrar en 2020, pocos habían oído hablar de la startup de reconocimiento facial Clearview AI. Varias semanas y una serie de ciclos de noticias negativas más tarde, la compañía ha provocado la ira de los legisladores y activistas de la privacidad que temen que, en palabras del New York Times (sitio en inglés), podría "poner fin a la privacidad tal como la conocemos".

Entonces, ¿quién es Clearview AI? ¿Cómo ha empujado el sobre de una tecnología que existe desde la década de 1960? ¿Y por qué sus avances tecnológicos son tan peligrosos para el consumidor general?

Aquí hay un resumen rápido. La nueva empresa secreta de Nueva York desarrolló un innovador sistema de reconocimiento facial que produce coincidencias más precisas desde más ángulos que las iteraciones anteriores. La compañía vende la tecnología a las fuerzas del orden y otros negocios. Lo que realmente distingue a la aplicación es su capacidad para combinar fotos de personas no identificadas con imágenes que Clearview AI ha eliminado de Internet. La base de datos de 3 mil millones de imágenes incluye imágenes que las personas publican en Facebook, Twitter y otros sitios en línea.

Es fácil ver el beneficio. La compañía promociona el éxito de su tecnología en la búsqueda de asesinos, abusadores de menores y otros delincuentes, utilizando vectores más precisos y un conjunto más amplio de imágenes.

Pero es igual de fácil ver las desventajas potenciales.

Los partidarios de la privacidad argumentan que el uso generalizado de la tecnología de reconocimiento facial rompe las reglas no escritas sobre tecnología y privacidad. Durante años, las compañías tecnológicas capaces de desarrollar aplicaciones de reconocimiento facial, incluido Google, se han retrasado por razones éticas. Grandes ciudades como San Francisco se niegan a usarlo. Clearview AI ha seguido adelante, vendiendo la tecnología a más de 600 agencias de aplicación de la ley sin pasar por ningún escrutinio público.

Las personas también plantean preguntas sobre si la tecnología de reconocimiento facial de Clearview AI podría ser mal utilizada. Cazar criminales peligrosos es una cosa. Pero, ¿qué pasa si un oficial de la policía deshonesto usa la coincidencia de imágenes para espiar a los enemigos o acechar a posibles fechas? ¿Qué pasa si un gobierno totalitario usa la tecnología para desenterrar a los activistas? ¿Qué sucede si un usuario final identifica erróneamente a alguien y bloquea su acceso a vuelos o beneficios gubernamentales? ¿Podría una entidad encargada de hacer cumplir la ley utilizar una coincidencia para obtener acceso a sus cuentas bancarias o correos electrónicos?

"Las posibilidades de armamento de esto son infinitas", dijo Eric Newman, codirector del Instituto de Derecho de Alta Tecnología de la Universidad de Santa Clara, al New York Times (sitio en inglés).

Clearview AI argumenta que está dentro de sus derechos de Primera Enmienda usar imágenes que se publican en la web porque están en el ámbito público. Pero, para la mayoría de las personas, esto cruza una línea.

Las compañías tecnológicas de las que Clearview AI ha dependido están dibujando sus propias líneas. Twitter, YouTube y Facebook han enviado cartas de cese y desistimiento de Clearview AI solicitando la eliminación de todos sus datos recopilados. Apple hizo lo mismo (sitio en inglés), bloqueando la aplicación de iPhone Clearview AI por violar sus reglas.

Los problemas de Clearview AI se intensificaron la semana pasada cuando una violación de datos expuso la lista de clientes de Clearview AI. A pesar de la afirmación de la compañía de que solo se comercializa a las agencias de aplicación de la ley, la lista de 2.200 organizaciones en 27 países incluye entidades no gubernamentales como Walmart, Best Buy, Bank of America y la NBA.

¿Qué pueden hacer los consumidores con respecto a las imágenes que ya están disponibles y que coinciden? "Pueden eliminar todas sus fotos en Facebook", sugiere Martin Hron, investigador principal de Avast. “Sin embargo, si los disparos ya se han almacenado en la caché en la web, todavía se pueden encontrar. Pueden pedirle a Facebook que elimine sus datos, pero tendrían que eliminar toda su cuenta ”, agrega Hron.

Las leyes de privacidad (sitio en inglés) ofrecen refugio a los consumidores. Según la nueva ley de privacidad del estado, en Estados Unidos, los residentes de California pueden solicitar ver los datos que Clearview AI ha recopilado sobre ellos y eliminar los datos de la base de datos. Los residentes de la Unión Europea también pueden solicitar que se eliminen sus datos.

Este caso ha sido revelador. La tecnología de reconocimiento facial plantea muchos problemas complicados para la sociedad y los consumidores a los que afecta. Los movimientos que realizó Clearview AI, ampliando silenciosamente un sistema fuera de la vista pública, ilustran cómo los gobiernos tienen que adelantarse a este problema.

Artículos relacionados