Google está desarrollando una herramienta de moderación gratuita para ayudar a los sitios web más pequeños a identificar y eliminar material terrorista, ya que las nuevas leyes en el Reino Unido y la UE obligan a las empresas de Internet a hacer más para detener el contenido ilegal.

El software se está desarrollando en asociación con la unidad de investigación y desarrollo del gigante de las búsquedas, Jigsaw and Tech Against Terrorism, una iniciativa respaldada por las Naciones Unidas que ayuda a las empresas tecnológicas a monitorear el terrorismo en línea.

“Hay muchos sitios que simplemente no tienen personas que hagan cumplir las leyes. Es realmente laborioso crear los algoritmos en primer lugar. [and] entonces necesitas todos estos revisores humanos”, dijo Yasmin Green, directora general de Jigsaw.

«[Smaller websites] No quiero ningún contenido de Isis allí, pero hay un montón en todas partes. [them],» ella añadió.

La medida se produce cuando las empresas de Internet se verán obligadas a eliminar el contenido extremista de sus plataformas o se enfrentarán a multas y otras sanciones en virtud de leyes como la Ley de Servicios Digitales de la UE, que entró en vigor en noviembre, y la Ley de Seguridad en Línea del Reino Unido, que tendrá calcular es convertirse en ley este año.

La legislación ha sido impulsada por políticos y reguladores de toda Europa que argumentan que los grandes grupos tecnológicos no han ido lo suficientemente lejos para monitorear el contenido en línea.

Sin embargo, el nuevo régimen regulatorio ha generado preocupaciones de que las nuevas empresas más pequeñas no están equipadas para cumplir y que la falta de recursos limitará su capacidad para competir con las empresas tecnológicas más grandes.

“Noto un gran cambio en la [leading] Las plataformas se están volviendo mucho más efectivas en la moderación y eso está impulsando el contenido terrorista y las afirmaciones falsas de Covid [other sites]’, agregó Verde.

Yasmin Green, CEO de Jigsaw
Yasmine Green: ‘[Smaller websites] No quiero ningún contenido de Isis allí, pero hay un montón en todas partes. [them]© Rengim Mutevellioglu para The Washington Post/Getty Images

Un informe de 2021 del Foro Global de Internet para Contrarrestar el Terrorismo estimó que de cada 10 000 publicaciones en Facebook, seis tendrían contenido terrorista o extremista. En plataformas más pequeñas, ese número puede llegar a 5000, o el 50 por ciento del contenido.

GIFCT, una organización no gubernamental fundada en 2017 por Facebook, Microsoft, Twitter y YouTube para promover asociaciones entre muchas plataformas tecnológicas, apoya el proyecto de Jigsaw. La ONG tiene una base de datos de contenido terrorista compartida por los miembros de su compañía de tecnología, que los sistemas de moderación pueden usar para identificar los materiales existentes.

El 13 de diciembre, el propietario de Facebook e Instagram, Meta, lanzó un software de código abierto que otras plataformas pueden usar para unir contenido terrorista con imágenes o videos existentes en la base de datos y resaltarlo para verificación humana urgente.

La herramienta de Jigsaw tiene como objetivo dar el siguiente paso en el proceso y ayudar a los moderadores humanos a tomar decisiones sobre el contenido marcado como peligroso e ilegal. Comenzará a probarse en dos ubicaciones sin nombre a principios de este año.

«Según nuestra experiencia, los terroristas buscan explotar plataformas más pequeñas donde la moderación del contenido es un desafío debido a los recursos limitados», dijo Adam Hadley, director de Tech Against Terrorism.

Jigsaw tiene alrededor de 70 empleados, la mayoría en las oficinas de Google en Nueva York. Green, quien se convirtió en director ejecutivo en julio, dijo que no se espera que la división que genera pérdidas se vuelva rentable.

“Hay una idea de que hay un retorno comercial a largo plazo. . . Google necesita una Internet más saludable”, agregó Green. «Estamos ayudando a Google e Internet de maneras que agregan valor, incluso si no se trata de dinero».

Por npx0k

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *