El nombre la iniciativa, promovida por la Primer Ministro de Nueva Zelanda, Jacinda Ardern, y el Presidente de Francia, Emmanuel Macron, alude al ataque a la mezquita de Chistchurch, ocurrido el 15 de marzo en Australia y emitido en vivo a través de Facebook Live.

“La convocatoria delinea compromisos colectivos voluntarios por parte de gobiernos y proveedores de servicios en línea que buscan abordar el tema del contenido en línea terrorista y de violencia extrema, y prevenir el abuso de Internet como ocurrió en el momento y luego del ataque a Christchurch”, señala el documento.

A través del Acuerdo los gobiernos firmantes se comprometieron a “contrarrestar las fuerzas que impulsan el terrorismo y el extremismo violento mediante el fortalecimiento de la resiliencia y la capacidad de inclusión de nuestras sociedades para permitirles resistir ideologías terroristas y extremistas violentas” para lo cual buscarán garantizar la implementación de regulaciones que prohíban la producción o diseminación de contenido terrorista y extremismo violento en sintonía con la normativa internacional de derechos humanos.

Otro de los compromisos gubernamentales pasa por considerar desarrollar estándares de la industria o marcos voluntarios; y regulaciones o políticas consistentes con una Internet libre, abierta y segura y con las leyes internacionales de derechos humanos.

Por su parte, las empresas que participaron del acuerdo -entre las que se encuentran Facebook, Google, Amazon, Twitter y Youtube, entre otras- se comprometieron a adoptar medidas específicas, entre ellas la remoción permanente, para prevenir la diseminación de este tipo de contenidos, pero sin atentar contra mecanismos de apelación en forma que no afecte a las libertades fundamentales.

También acordaron proveer mayor transparencia en la definición de estándares comunitarios o términos de servicio que, a su vez, sean consistentes con la regulación internacional en derechos humanos. En este sentido, se señala la priorización en la moderación de contenido terrorista y violento; cierre de cuentas; proveer mecanismos eficientes de queda y proceso de apelación sobre la remoción de contenido.

A su vez se señala la implementación de medidas inmediatas para mitigar riesgos específicos que ciertos contenidos de este tipo pueden generar, lo que incluye la identificación del contenido en tiempo real.

La revisión del funcionamiento de los algoritmos que puedan conducir a los usuarios a la amplificación de contenidos violentos, también está contemplada en el acuerdo. En este sentido se alude a la construcción de mecanismos para reportar contenidos, diseñados en un proceso de múltiples partes.

La iniciativa contó con el apoyo de la Comisión Europea y 17 gobiernos: Australia, Canadá, Francia, Alemania, Indonesia, India, Irlanda, Italia, Japón, Jordania, Países Bajos, Nueva Zelanda, Noruega, Senegal, España, Suecia y Reino Unido. En cambio, Estados Unidos se negó a firmar porque consideró que la iniciativa va en contra de la Primera Enmienda sobre libertad de expresión.

Por parte de las empresas firmaron Amazon, Daily Motion, Facebook, Google, Microsoft, Qwant, Twitter y Youtube.

Si bien las organizaciones de la sociedad civil tuvieron la oportunidad de participar del proceso de elaboración del acuerdo en una reunión convocada en París el 14 de mayo, se criticó la falta de tiempo para poder participar adecuadamente de la consulta.

“Los gobiernos de Francia y Nueva Zelanda, que lideraron el boceto de texto y reunieron a los actores, no crearon el documento a través de una consulta pública inclusiva. En cambio, los que guiaron la conversación desarrollaron recomendaciones para gobiernos y compañías tecnológicas a puertas cerradas… el poco tiempo y falta de información para prepararse obstaculizó la capacidad de proveer aportes valiosos [desde la sociedad civil]. Adicionalmente, mantuvo a la sociedad civil separada de otros actores claves -como las compañías y gobiernos- limitando drásticamente la habilidad de involucrarse significativamente”, sostuvo la organización global Access Now.

Las organizaciones destacaron como acierto de la iniciativa la mención explícita de los derechos humanos y las obligaciones de transparencia tanto para gobiernos como para empresas. No obstante plantearon que uno de los puntos débiles del acuerdo tiene que ver con la falta de precisiones sobre quién define qué se considera “terrorismo” y “extremismo violento”, entre otras cuestiones.