La oficina de Naciones Unidas criticó que las leyes de este tipo que se está empezando a desarrollar en muchos países tienen definiciones pobres de lo que constituye contenido ilegal o dañino.
La Oficina de las Naciones Unidas para los Derechos Humanos, alertó hoy de que los mecanismos para eliminar el discurso de odio pueden tener un impacto negativo en las personas que están intentando proteger y pidió que estas políticas tengan un enfoque basado en los derechos humanos.
«Debemos hacer sonar una alarma fuerte y persistente dada la tendencia a la clonación de regulaciones defectuosas y al florecimiento de malas prácticas», afirmó la directora de participación telemática de la oficina, Peggy Hicks.
La ONU criticó, por ejemplo, el proyecto de ley de seguridad en internet que presentó en mayo el Reino Unido por ser demasiado amplio y poder propiciar la eliminación de grandes cantidades de «discurso protegido», es decir, el que según el derecho internacional debería permitirse.
Este proyecto volvió a debate en días recientes, después de que varios futbolistas ingleses negros recibieran insultos y amenazas tras fallar penaltis en la final de la Eurocopa.
Ahora «hay demandas para que esa legislación se implemente más rápidamente, como si el proyecto de ley pudiera haber protegido de alguna manera a los jugadores del racismo al que se enfrentan», criticó Hicks.
La experta agregó que para acabar con el racismo hay que centrarse en la sociedad y en las bases sobre las que está construida, y aseguró que bloquear el discurso racista a través de algoritmos tiene el peligro de que se eliminen más mensajes de los necesarios.
«La intención ha sido y debe ser hacer el espacio de internet menos amenazante para personas afrodescendientes, mujeres y otros colectivos, pero la realidad es que lo que vemos en la red es un espejo de a lo que se enfrentan las personas cada día fuera de internet», concluyó.
Hicks señaló algunos estudios que han mostrado que las herramientas automatizadas, estos detectores del discurso de odio, pueden censurar más el contenido de personas afrodescendientes que el de personas blancas, por lo que insistió en tener cuidado con los métodos que se usan para solucionar este problema.
«Tenemos que aclarar que no podemos eliminar el racismo en internet con una varita mágica», afirmó la experta, quien explicó que hay maneras en las que las compañías y los Estados pueden mejorar en este aspecto, pero que suprimir el discurso de odio de una manera unificada y simple no es algo factible.
Por esta razón, la ONU emitió ciertas recomendaciones para combatir el discurso de odio, tales como centrarse en el proceso en vez de en el contenido, la transparencia, asegurar que las restricciones estén basadas en la ley, sean proporcionadas y no discriminen.
También sugiere garantizar que los usuarios puedan recurrir a estas decisiones, y utilizar a personas en vez de algoritmos para localizar ese contenido dañino.
La Oficina de Naciones Unidas para los Derechos Humanos no solo criticó al Reino Unido, sino también proyectos legislativos similares en EEUU, Nigeria o Vietnam, uno de los países que aprovechó esta oportunidad para prohibir contenido que «distorsione la historia y cause confusión entre los ciudadanos».
La oficina de Naciones Unidas criticó que las leyes de este tipo, que se está empezando a desarrollar en muchos países, tienen definiciones pobres de lo que constituye contenido ilegal o dañino.
Se basan demasiado en la inteligencia artificial y los algoritmos, y muchas veces delegan funciones regulatorias a empresas externas o a funcionarios del Estado, sin supervisión judicial, añade la oficina dirigida por la alta comisionada Michelle Bachelet.
