La semana pasada, la Comisión Europea organizó en Bruselas un hackatón de dos días para desarrollar soluciones innovadoras en línea que permitan combatir el antisemitismo y fomentar la vida judía, escribe Mose Apelblat.
TikTok y Meta se han comprometido a apoyar el desarrollo de tres proyectos premiados.
El evento reunió a más de 120 participantes de más de 20 países de Europa y de otros lugares, entre ellos funcionarios gubernamentales, organizaciones de la sociedad civil y especialistas en tecnología.
Los participantes trabajaron en equipos para construir un prototipo funcional para un problema específico en poco tiempo ("hackathon"), en este caso herramientas para abordar, entre otras cosas, el antisemitismo en la moderación de contenido y eliminar el sesgo antisemita en los modelos de IA.
«En Europa, creemos que la innovación debe estar al servicio de las personas», declaró Magnus Brunner, comisario de Asuntos Internos y Migración. «TikkunTech sigue el principio judío de "Tikkun Olam" —reparar el mundo— ofreciendo soluciones para reparar los espacios digitales y frenar el odio allí donde prolifera».
El hackathon se denominó 'TikkunTech', en referencia al antiguo concepto religioso-místico 'Tikkun Olam', según el cual se llama a los seres humanos a mejorar el mundo con sus acciones o incluso a convertirse en socios del Creador.
La coordinadora de la Comisión para la lucha contra el antisemitismo y el fomento de la vida judía, Katharina von Schnurbein, describió el TikkunTech como «un hito importante en la aplicación de la Estrategia de la UE para la lucha contra el antisemitismo y el fomento de la vida judía (2021-2030)». Esta estrategia se adoptó en octubre de 2021 en un contexto de creciente antisemitismo en los Estados miembros de la UE.
La Comisión subraya que el discurso antisemita, incluida la justificación pública, la negación o la trivialización flagrante del Holocausto, tanto en línea como fuera de línea, que incite a la violencia y al odio, está tipificado como delito en virtud de la Decisión Marco de la UE sobre la lucha contra el racismo y la xenofobia.
En el ámbito digital, la UE cuenta con un marco legislativo que incluye el Reglamento sobre Contenido Terrorista en Línea y la Ley de Servicios Digitales (DSA). La DSA obliga a las grandes plataformas en línea a adoptar medidas adecuadas de mitigación de riesgos para prevenir la difusión de contenido ilegal y perjudicial que pueda suponer una amenaza para la seguridad pública. Esto suele aplicarse al contenido antisemita.
Tres de los proyectos finalistas del hackathon fueron preseleccionados y evaluados por un jurado presidido por von Schnurbein. El primer premio se otorgó a la aplicación "4Sight App". Esta aplicación fue desarrollada por un equipo de cuatro personas que utiliza inteligencia artificial para analizar cientos de miles de publicaciones en plataformas en línea especializadas y marginales.
«Suele empezar en esas plataformas», declaró Sophie, una de las integrantes del equipo, a The Brussels Times. «Queremos alertar a las principales plataformas con tiempo, antes de que la jerga y los discursos antisemitas se propaguen a ellas. Nuestra aplicación facilitará a los expertos y a los responsables de la DSA de confianza en los Estados miembros la identificación de contenido sospechoso. Se trata de una alerta para que los revisores humanos decidan si el contenido debe eliminarse».
El segundo premio, la aplicación «L'chaim», se desarrolló para que los miembros de la comunidad judía pudieran reunirse de forma segura y encontrar eventos de interés común. El tercer premio, la extensión de navegador Kavannah, se basa en la experiencia de usuario de las plataformas en línea y permite a los usuarios analizar su contenido. Realiza verificación de datos, interpreta las publicaciones y muestra una puntuación.
«La creación de coaliciones es clave para la implementación de los proyectos de TikkunTech», concluyó Katharina von Schnurbein. «Reunimos a la Comisión con la sociedad civil y las plataformas, y conseguimos el compromiso de TikTok de seguir desarrollando el proyecto ganador en Dublín, mientras que Meta trabajará con los equipos que quedaron en segundo y tercer lugar en Londres».
Sophie se muestra optimista. «Aún no tenemos todos los detalles prácticos del apoyo, pero estamos seguros de que la cooperación va por buen camino para detectar amenazas tempranas y contenido de odio».
El viernes 2 de octubre, el Consejo de Justicia y Asuntos de Interior de la UE adoptó por unanimidad unas conclusiones sobre la lucha contra el racismo y otras formas conexas de odio y discriminación en la UE. Dichas conclusiones, que abarcan todas las formas de racismo, hacen hincapié en la necesidad de facilitar significativamente a las víctimas la identificación, la denuncia y la demostración de la discriminación algorítmica y basada en inteligencia artificial.
La estrategia de 2021 para la lucha contra el antisemitismo sigue siendo el principal documento político de la UE en esta lucha. En consonancia con su compromiso anterior, se insta a la Comisión y a todos los Estados miembros a que sigan utilizando la definición operativa de antisemitismo, no jurídicamente vinculante, de la Alianza Internacional para el Recuerdo del Holocausto (IHRA).
Según la Ley de Servicios Digitales (DSA, por sus siglas en inglés), las plataformas deben priorizar la revisión de las notificaciones de contenido ilegal provenientes de informantes de confianza designados por los coordinadores nacionales de servicios digitales. La Comisión está analizando actualmente las respuestas a una consulta pública sobre la elaboración de directrices actualizadas para los informantes de confianza.
El ataque perpetrado el pasado agosto en un instituto de Suecia planteó interrogantes sobre cómo el autor logró pasar desapercibido y subrayó la importancia del papel de los informantes de confianza en el marco de la DSA (Agencia de Seguridad Digital).
Este artículo fue publicado originalmente por The Brussels Times.
