Reino Unido desarrolla una herramienta para bloquear automáticamente contenido extremista
Un tema de larga data de varios gobiernos británicos ha sido que los gigantes tecnológicos deben hacer más para abordar el extremismo en sus plataformas. Los gigantes tecnológicos, en su mayor parte, se encogieron de hombros, seguros de saber que, si bien podría Aunque filtraban contenidos de manera efectiva en países donde ya existían leyes estrictas, su afición general por los principios de Internet gratuito significaba que podían mirar cómodamente al gobierno en caso de que amenazara con prohibiciones o multas.
Así que parece que en lugar de pasar por la misma vieja canción y danza de amenazas vacías seguidas de inacción (Cameron estaba hablando duro en WhatsApp hace más de tres años)el gobierno ha tomado la iniciativa y ha ideado su propia solución: una herramienta de bloqueo del extremismo que, según se informa, puede detectar el 94% de la actividad en línea del Estado Islámico (ISIS) con una precisión del 99,995%.
La herramienta, desarrollada por ASI Data Science de Londres, fue entrenada utilizando miles de horas de datos publicados por ISIS, con la ayuda de 600.000 libras esterlinas de financiación gubernamental. Si la herramienta tiene dudas sobre algo, la publicación se marca para que los moderadores humanos la revisen.
LEER A CONTINUACIÓN: Los parlamentarios critican las redes sociales como “el alma de Daesh”
Aunque está dirigido principalmente a empresas más pequeñas que no tienen sus propias soluciones al problema, el gobierno no ha descartado aprobar una ley para obligar a las empresas a utilizar el software. “No vamos a descartar la adopción de medidas legislativas si es necesario”, afirmó el Ministro del Interior. Amber Rudd le dijo al bbc. “Pero sigo convencido de que la mejor manera de tomar medidas reales y obtener los mejores resultados es tener un foro liderado por la industria como el que tenemos”.
Se trata del Foro Mundial de Internet para Contrarrestar el Terrorismo, en el que participan varios gobiernos, junto con empresas como Facebook, Google y Twitter.
Posibles problemas
Una tasa de éxito del 99,995% podría cambiar las reglas del juego en la lucha contra el terrorismo, pero la palabra clave es “podría”. Esta solución –suponiendo que funcione tan bien en la naturaleza como en el laboratorio, y que los terroristas no encuentren simplemente formas de evitarla– tiene como objetivo abordar la radicalización y la propaganda en línea, pero no hace nada para abordar la cuestión considerablemente más espinosa de cifrado.
Ver relacionados
Twitter puede ocultar automáticamente a los neonazis y a los supremacistas blancos, pero decide no hacerlo
Si el gobierno no puede lograr que la prohibición de Uber sea correcta, Facebook y Google no tendrán nada de qué preocuparse
El gobierno del Reino Unido quiere obligar a Google y Facebook a tomarse en serio el contenido terrorista. Buena suerte con eso
En otras palabras, si las personas se radicalizan fuera de línea, todavía hay muchos canales privados en línea para que los posibles terroristas conspiren, lejos de los controles de IA, y en realidad no hay una solución simple para eso, por mucho que los ministros informados confusamente puedan Ojalá los hubiera. Y eso sin siquiera considerar la posibilidad de que algoritmos de caja negra no controlados señalen falsos positivos, sin ninguna intervención humana.
Aún así, la acción proactiva contra el terrorismo es sin duda un paso positivo, y es positivo ver a los gobiernos tomar la iniciativa cuando Silicon Valley ha sido algo cauteloso en el pasado. Aunque YouTube, por ejemplo, ha sido muy eficaz a la hora de eliminar la pornografía subida al sistema, durante años se ha permitido que el contenido extremista se cuele en la red, y no se puede dejar de sentir que las duras penas impuestas al primero pueden haber contribuido a dar forma a la situación. el pensamiento de la empresa en los primeros días.
Puede parecer un poco duro, pero en este punto, cualquier cosa que haga que los gigantes tecnológicos den más importancia a sus responsabilidades sociales en la agenda debe ser bienvenido con cautela.
Imagen: Pedro utilizado bajo Creative Common