Garry Kasparov

En busca de la transparencia y la responsabilidad tanto para las personas como para las máquinas

Garry Kasparov, 7 julio 2017

En su último artículo para Avast, Garry Kasparov examina la intersección entre privacidad, transparencia, seguridad, derechos humanos e instituciones en la era de la IA.

Hace poco tuve el honor de ser uno de los premiados con el Champions of Freedom de 2017, otorgado por Electronic Privacy Information Center (EPIC). Entre los presentadores del certamen se encontraba uno de los grandes del sector de la tecnología y la privacidad, Bruce Schneier. Las personas con las que compartí el premio, la abogada Carrie Goldberg, el criptógrafo Ron Rivest y la juez Patricia Wald, están haciendo un gran trabajo para proteger la privacidad tanto en el mundo virtual como en el real en una época en la que parece que nos vigilan constantemente. El presidente y director ejecutivo de EPIC, Marc Rotenberg, hizo una interesante exposición sobre el papel vital, y a menudo no reconocido, de la transparencia en una democracia sana.

Privacidad y transparencia, 2 caras de la moneda de seguridad

Los usuarios también están preocupados, por decirlo de alguna forma. En estos momentos, el término “privacidad” aparece mencionado 58.400.000 veces en Google Noticias, aunque cabe puntualizar que este término se entiende de diferentes formas en función del contexto. Como bien saben en EPIC, el problema no se encuentra solamente en la privacidad del usuario final y en el hecho de compartir demasiada información en las redes sociales, sino también en lo que sucede en las altas esferas de los Gobiernos y las empresas que tienen la capacidad de controlar nuestras acciones.

Este es el motivo por el que la privacidad y la transparencia son las dos caras de una misma moneda, la de la seguridad. Las empresas necesitan información sobre nosotros para proporcionarnos los servicios que queremos. Los organismos gubernamentales también necesitan ejercer un control para proporcionar los servicios de seguridad básicos. Entonces la eterna pregunta es: ¿cómo podemos encontrar el equilibrio entre estas necesidades y el derecho de los ciudadanos a mantener su privacidad y el control sobre sus propios datos, aunque se produzcan cada día más? La transparencia es necesaria para establecer límites y la responsabilidad, para sobrepasarlos.

Este proceso contrapuesto forma parte de los controles y equilibrios en los que se basan las repúblicas democráticas, especialmente en los Estados Unidos. La idea es utilizar la presión y el conflicto para dar a conocer y corregir las grietas en el sistema, para arrojar luz y dar pasos progresivos en pos de un beneficio mayor. Esto se debe contrastar con la naturaleza de la vigilancia y la privacidad en un mundo sin libertades. No podemos ignorar el método, el motivo y la misión que hay detrás de la recopilación de datos y la violación de la privacidad. En regímenes autoritarios, solo se respeta la privacidad de los gobernantes, pero no la del resto de personas. El comportamiento del régimen y el de los ciudadanos más poderosos se protege de las demás personas. En estos casos, la recopilación de datos se utiliza para la represión y la persecución de ciudadanos inocentes. Cuando la protección de la privacidad cae en la autocracia y no es un ejercicio legal ni se aplica para proteger a las personas de atacantes o terroristas, las personas reales están expuestas a un peligro físico real. Una organización como EPIC, por ejemplo, no podría existir en la Rusia de Putin. Si así fuera, no sería más que otra rama de los servicios de seguridad.

"Observando a los observadores"

Queremos mantener la privacidad, pero también nos preocupan las bases éticas de nuestras instituciones. Si las motivaciones de las autoridades nos parecen correctas desde un punto de vista moral y funcionan en pro de nuestros intereses y de los intereses de la sociedad, nos sentimos más cómodos renunciando a parte de nuestra privacidad. Se podría denominar “observación de los observadores”, es decir, vigilar a los que deben establecer los protocolos de vigilancia. Sus justificaciones se deben analizar y debe haber una cadena de responsabilidad y compromiso. Lo ideal sería un sistema que permitiera recopilar la información necesaria con finalidades económicas, sociológicas y de seguridad, entre otras, pero impidiera la recopilación arbitraria de datos que no tuvieran una necesidad específica y bien articulada. Los Gobiernos y las empresas deben ser transparentes a la hora de expresar sus objetivos y estrategias, y los consumidores tienen la obligación de cuestionar a cualquiera que les despierte dudas.

¿Dónde encaja la inteligencia artificial?

Obviamente, siempre me ha interesado el papel de la inteligencia artificial. Nos preocupan los procesos internos de toma de decisiones en organismos ocultos de la mirada pública. ¿Cómo podemos saber si las motivaciones de las grandes empresas para decidir la cantidad de información del usuario que van a revelar a los Gobiernos extranjeros tienen en cuenta lo mejor para sus usuarios? Si esto nos preocupa, y es legítimo que así sea, debemos pensar detenidamente en cómo delegaremos tareas similares a la inteligencia artificial en el futuro. Cada vez más, los algoritmos toman decisiones con mayores consecuencias para las personas, empresas y sociedades. El campo de aprendizaje de las máquinas crece a gran velocidad, por lo que, a menudo, nos encontramos con que tenemos que evaluar los resultados de procesos incomprensibles para los humanos. Por ejemplo, una red neuronal llegó a un punto final concreto, y no lo hizo mediante una serie de pasos establecidos por sus diseñadores humanos, sino a través de la autoprogramación. Estas tendencias nos llevan hacia un futuro de resultados impredecibles y de cadenas de responsabilidad aún menos claras en cuanto a los resultados.

No es de extrañar que el campo de la transparencia y del compromiso algorítmicos cada vez aparezcan con más frecuencia en las normas que regulan la privacidad. EPIC ha lanzado una campaña en esta línea. Si no podemos trazar los procesos de la inteligencia artificial y determinar cómo se llegó a una decisión determinada, debemos hacer, como mínimo, que todos los elementos del proceso que controlan los humanos sean transparentes. Como he explicado antes, debemos exigir una justificación moral y clara a las instituciones humanas responsables de la vigilancia general. Lo mismo sucede en este caso: debemos exigir que la inteligencia artificial se programe siguiendo los estándares de ética y transparencia más rigurosos.

También debe haber un marco para determinar la responsabilidad humana. Si una tostadora conectada al Internet de las cosas se une a una red de robots que hace caer un grupo de Internet, ¿quién debe responsabilizarse? ¿El fabricante, por crear un producto que no es seguro? Igual que lidiamos con noticias falsas y otros síntomas que demuestran que nuestra potente tecnología está fuera de control, tenemos que asignar mejor las fuentes y la responsabilidad a las personas, en vez de culpar a la tecnología.

Hacia instituciones más confiables

Sin embargo, los estándares gubernamentales y del sector pueden marcar una gran diferencia. Después de la ceremonia de premios de EPIC del 5 de junio, mantuve una breve charla con el pionero en cifrado Whit Diffie. Estaba aturdido por mi comentario, en el que defendía que, a estas alturas, las personas ya deberían saber que no se puede hacer clic en mensajes adjuntos a correos electrónicos no seguros. Me dijo que es ridículo que los usuarios tengan cualquier posibilidad de hacer algo potencialmente tan destructivo, y tiene razón. Las ventanas de los rascacielos modernos solo pueden abrirse ligeramente para evitar accidentes y suicidios. Nunca se podrá impedir totalmente que las personas se autolesionen, pero está claro que se puede hacer mucho para mejorar nuestras estructuras digitales de forma que podamos protegernos de nosotros mismos. 

El punto crucial se encuentra en las instituciones, tanto públicas como privadas, y en si demuestran la suficiente transparencia y compromiso como para confiarles nuestra privacidad y otras formas de seguridad. Tanto si hablamos de un Gobierno que toma decisiones sobre programas de vigilancia nacional como de una empresa que determina de qué forma sus productos recopilarán información de los usuarios, si los valores y las normas que rigen la acción humana (o de la máquina) son lo suficientemente estables, podemos ser optimistas y pensar que los resultados serán positivos, aunque sea después de años de ensayo y error. Si las instituciones fallan, pasamos a ser vulnerables a las amenazas de actores malvados o de tecnologías neutras que pueden causar daños, ya sea por accidente o de forma malintencionada.

Para ser fuertes, las instituciones deben tener continuidad en el tiempo, lo cual debe estar por encima de los cambios de liderazgo y de los partidos. Esto puede ser difícil de digerir en un panorama tan partidista como el actual, pero yo me siento orgulloso de ser una voz crítica ante la hipocresía del extremismo en ambos lados del espectro político. En mi discurso de aceptación que pronuncié en EPIC, recalqué que si uno está de acuerdo con la vigilancia y las órdenes ejecutivas cuando le gusta el presidente, pero las odia cuando el presidente no es de su agrado, entonces forma parte del problema. No se puede crear un sistema que funcione para todos sus miembros si no hay un compromiso de todas las partes. En una situación en que las leyes de transparencia sean sensatas y las autoridades de supervisión lleven a cabo verificaciones potentes e imparciales, nunca se acusará ni se deberán hacer retractaciones en los extremos seguros, aunque sin futuro, de la privacidad total o de la vigilancia exacerbada.

Mientras tanto, al mismo tiempo que trabajamos para crear las instituciones que darán forma a nuestras experiencias e interacciones personales en el mundo digital, debemos ser responsables como usuarios individuales que actúan en un sistema imperfecto. El mundo en línea está lejos de ser un mundo civilizado. Más bien se parece al Salvaje Oeste americano, en el que las leyes no estaban bien establecidas y se incumplían con frecuencia. Las garantías totales no existen y, por lo tanto, cada consumidor debe vigilar la información que comparte y ser consciente de las medidas que adopta para protegerla. Cada uno de nosotros debe seguir ejerciendo presión en las leyes y protecciones necesarias para la seguridad colectiva, mientras que nos reconciliamos con la realidad actual y permanecemos atentos.

El hecho de que las líneas de responsabilidad estén bastante desdibujadas no incentiva a las empresas a poner en marcha sistemas de protección. A pesar de la frecuencia con la que se acusa a los grandes Gobiernos de convertir la sociedad en una especie de Gran Hermano y de la evidencia de la cada vez mayor recopilación de datos realizada por algunas de las empresas más grandes del mundo, en estos momentos estas grandes instituciones son las más responsables. Las empresas más grandes, más conocidas y con una reputación que deben defender están obligadas a preocuparse por la opinión pública y la satisfacción del usuario.

Del mismo modo, a muchos Gobiernos no les preocupa el hecho de violar la privacidad de sus ciudadanos mientras los que estén preocupados por su posición en el escenario mundial lo hagan mejor. Protéjase lo mejor que pueda con las mejores herramientas que tenga a su disposición —los rifles Colt 45s y Winchester del arsenal del Salvaje Oeste digital— pero no deje de presionar para que se produzca un cambio institucional mayor que dé lugar a un mundo en línea más seguro, más justo y más transparente para todo el mundo. Y, con suerte, sin ni siquiera apretar el gatillo.