Puntos de vista

Luchar contra las expresiones de odio y ahorrarse discursos

Garry Kasparov, 5 septiembre 2017

Garry Kasparov habla sobre cómo internet magnifica la delicada balanza entre la regulación del lenguaje difamatorio y la libre expresión.

En junio se aprobó una nueva ley en Alemania que requiere que las empresas de redes sociales eliminen contenido clasificado como expresiones de odio  en 24 horas o se enfrentarán a multas que van desde los 5 millones hasta 57 millones de dólares. La ley y la controversia con la que rápidamente se ha visto envuelta han hecho surgir importantes cuestiones sobre la naturaleza de las expresiones de odio, el sacrificio en libertad de expresión a cambio de la regulación y las funciones de supervisión de las empresas privadas y las autoridades gubernamentales, entre otras.

El problema de la supervisión de contenido digital surgió de forma destacada durante las elecciones presidenciales del año pasado en Estados Unidos, por lo que muchos de estos problemas ya son elementos de debate público importantes. Pero la historia de Alemania la sitúa en una posición única en términos de libertad de expresión, por lo que se muestra más sensible ante cualquier comentario de odio. Ya existen leyes en vigor que ilegalizan las expresiones de odio y que imponen penas de hasta 5 años de prisión, así que es posible que estas nuevas leyes se consideren solo una ampliación de las políticas existentes. Pero, como siempre intento hacer en mis publicaciones mensuales en este blog, debemos hacernos dos preguntas cruciales: ¿cómo transforma Internet este problema? y ¿cómo deberíamos responder?

Un buen punto de partida para nuestro debate es empezar por obtener una mayor claridad sobre qué se considera una expresión de odio. Si no nos ponemos de acuerdo en qué tipos de declaraciones cruzan la raya, ¿cómo podemos esperar encontrar una solución legislativa común? La legislación aprobada recientemente en Alemania simplemente transfiere la definición utilizada en el mundo analógico al digital de Facebook, Twitter y YouTube. Aquello que ya se considera ilegal en cuanto a declaraciones públicas, como la negación del Holocausto publicada en una revista impresa o comentada en un programa de noticias de la televisión, también sería igualmente inaceptable como publicación o comentario en Internet.

Esto hace surgir un problema obvio: las fronteras nacionales dentro de las que Alemania regula su discurso público no existen en Internet. Una publicación generada en un país sin leyes estrictas en materia de expresiones de odio podría tener que eliminarse de Internet en otro país, dejando a un lado el hecho de que pueda determinarse el origen real de la publicación. Y, ¿qué significa «origen» en el mundo digital? ¿La ciudadanía o el lugar de residencia de la persona que ha realizado la publicación? ¿La ubicación del servidor en el que se encuentra la publicación? ¿El país de origen de la empresa a la que pertenece el servidor? ¡Os podéis empezar a hacer una idea de por qué Internet se ha convertido en una bendición para los abogados! ¿Es esto lo que queremos para una plataforma universal que transciende intrínsecamente los límites nacionales?

Después de todo, si Alemania puede ejercer la presión suficiente sobre una empresa de redes sociales para hacer cumplir sus estándares de censura fuera del país, ¿qué sucede con los estándares de otros países y grupos, especialmente los autoritarios? Los fundamentalistas religiosos de unas cuantas religiones ya presionan para prohibir imágenes de mujeres que llevan ropa que consideran inapropiada. China estaría encantada de ampliar su censura cibernética interna de nombres de disidentes y términos como «Plaza de Tiananmen» a todo Internet. Controlar los límites de las expresiones de odio en la red es mucho más complicado que vigilar las fronteras nacionales de un país.

Podemos observar cómo esto está relacionado con nuestra cuestión principal: ¿cómo consigue magnificar Internet lo que ya supone un frágil equilibrio entre la regulación de expresiones difamatorias y la libertad de expresión? Ahora no solo debemos cumplir con las políticas y la cultura de un único país, sino que tratamos con una esfera digital globalizada que pone en contacto docenas de etnias, idiomas y religiones. A menudo, la confrontación con tantos puntos de vista discordantes puede ser apabullante. ¿Cómo podemos crear políticas que permitan a las personas obtener una nueva perspectiva sobre su experiencia en línea, sin, a la vez, negar los conceptos universales de lo que es correcto o incorrecto?

Sobre este tema, creo que no podemos ser relativistas, argumentando que toda opinión merece la misma consideración. Objetivamente, ciertos países y culturas están por delante de otras en lo que llamaré la «evolución moral». Los padres fundadores de los Estados Unidos no consideraban la esclavitud amoral; sin embargo, hoy en día encontramos esa práctica moralmente inadmisible. Creo que otros países llegarán a las mismas conclusiones acerca de ciertos sistemas de creencias que actualmente sancionan. Un buen objetivo sería convertir la Declaración universal de los derechos humanos en algo realmente universal. Mientras tanto, debemos encontrar una forma de coexistir en las plataformas que tantos de nosotros compartimos y esto significa instituir regulaciones que respeten nuestros valores más arraigados, sin limitar el poder compartir y aprender de otras culturas.

El debate sobre la esencia de las expresiones de odio es inseparable de las preocupaciones prácticas sobre sus políticas. En este punto, además, la legislación actual no ofrece una respuesta satisfactoria. Transfiere la responsabilidad de los gobiernos a las empresas de tecnología, para que destinen un gran grupo de empleados a este propósito, o bien para que desarrollen algoritmos entrenados por humanos que puedan dar la alarma. Mientras que algunos casos resultan obvios, las complicaciones tanto éticas como técnicas surgen con las excepciones.

Un occidental puede creer que una esvástica es un caso claro y fácilmente detectable con un algoritmo de concordancia de imágenes. Esto puede resultar preciso en el 95 % de los casos, pero este odiado símbolo Nazi es bastante común en Asia, incluso en la actualidad, especialmente en India, Nepal, Sri Lanka y China, ya que es un símbolo budista, hindú y taoísta y su uso tradicional y religioso es anterior a los Nazis y Alemania. Una persona con conocimientos suficientes puede diferenciar entre las esvásticas de una concentración neofascista en Hamburgo y de un mosaico en un templo hindú, pero ¿puede hacerlo una máquina? Como siempre, el contexto lo es todo, pero es justamente lo que no se le da bien a las máquinas, ya que están limitadas por su conjunto de datos y reglas estrictas. Se puede ampliar el contexto de una máquina ofreciéndole más datos, especialmente sobre la persona que publica, pero entonces nos encontramos con el problema de la privacidad. ¿Cuánta información deberíamos tener que aportar a una empresa o gobierno para demostrar nuestra inocencia frente a un algoritmo?

Pero como se suele decir, la clave está en los detalles. Tanto humanos como ordenadores deberán trabajar aún más duro para determinar el contexto, la intención y el impacto. ¿Qué tipo de directrices deberán instaurar las empresas de tecnología para los trabajadores a cargo de detectar y retirar contenido? ¿Qué cálculos se deben incluir en la inteligencia artificial encargada de retirar el material difamatorio? ¿En qué parte de este proceso se nos garantiza a nosotros, los ciudadanos preocupados, que nuestros valores se entienden e incluyen en los mecanismos encargados de regir nuestro discurso público?

Como es habitual, no pretendo ofrecer una solución ideal, ni siquiera afirmar que existe alguna. Definir las expresiones de odio, o incluso simplemente supervisarlas y controlarlas (aunque eso fuera deseable) es una tarea extremadamente complicada. Mi objetivo con esta publicación es definir los parámetros para un debate informado, el cual espero que se logre gracias a las cuestiones anteriores. El objetivo principal es seguir progresando hacia la realización de nuestros ideales, aunque tengamos que admitir que la perfección nunca estará a nuestro alcance.

También debo ofrecer algunas palabras de advertencia, dada mi experiencia personal con los gobiernos represores. La línea entre ilegalizar la difamación y la censura total es muy fácil de cruzar. Cuando nos planteemos qué sacrificamos en libertad de expresión en aras de la supervisión controlada, haríamos bien en tener en cuenta que las restricciones introducidas en el mundo libre con buenas intenciones pueden y serán utilizadas para propósitos erróneos por parte de gobiernos autoritarios. Por ejemplo, la infame ley de propaganda homofóbica de Rusia prohíbe cualquier tipo de expresión que «respalde un comportamiento homosexual en menores» y también se ha abusado de ella para hacer una persecución política. Una restricción tan amplia y vaga supone que su cumplimiento está completamente en manos de la legislatura controlada por el Kremlin, que puede elegir qué instancias procesar en función de sus intereses. Es una forma sencilla y cómoda de silenciar todos los puntos de vista disidentes o distintos a los tradicionales que amenazan al régimen.

De forma parecida, las leyes contra el «extremismo» pueden parecer una buena idea en lugares en los que se lucha contra poblaciones radicalizadas que difunden propaganda de odio y llamadas a acciones violentas. Pero en Rusia y en otros lugares donde se enfrenta a regímenes autoritarios, cualquier oposición al gobierno se etiqueta rápidamente como extremista, se prohíbe y se suceden los arrestos, ya se trate de panfletos, concentraciones o sitios web. Las democracias no son inmunes al uso abusivo de estas leyes, es cierto, pero al menos existe un recurso político, debate y medios de comunicación libres para lograr hacerles frente.

El lenguaje legal que intenta codificar las expresiones de odio no es una verdadera solución. En su lugar, nuestro objetivo debería ser un lenguaje más amplio que consagre nuestros principios globales, el cual será mucho más difícil para los regímenes cínicos de subvertir y que mantendrá las puertas abiertas a la libertad de expresión y la libertad individual, para mantener el mundo libre, libre. Lo mejor que podemos hacer para protegernos contra las expresiones de odio reales, a la vez que conservamos la libertad de expresión esencial para el desarrollo humano, es definir y refinar el marco moral de la sociedad que queremos, en la red y fuera de ella. Los detalles concretos sobre qué se puede decir, dónde, cuándo y demás, siempre estarán abiertos a debate, obviamente. Pero no es tan malo que el diablo se centre en los detalles si los ángeles se encargan de ofrecernos el marco global.