En un innovador esfuerzo por combatir el creciente problema del discurso de odio en las redes sociales, España ha dado un paso adelante con el proyecto Real-Up. Respaldado por la Universidad de Jaén y en colaboración con el Observatorio Español del Racismo y la Xenofobia (Oberaxe), así como otras instituciones destacadas, esta iniciativa está utilizando tecnología de vanguardia basada en inteligencia artificial para generar respuestas efectivas y enriquecedoras que desmantelen los argumentos discriminatorios, y combatir el discurso de odio en las redes sociales del país.
Este proyecto, es considerado un logro tecnológico central en un ambicioso proyecto liderado por España para hacer frente a los crecientes desafíos impuestos por manifestaciones de racismo, xenofobia, islamofobia, antisemitismo y otras fenomenologías negativas en el ámbito digital. Cabe destacar que esta iniciativa surge como respuesta a la necesidad de proporcionar a las autoridades y actores sociales herramientas más precisas para identificar y combatir el discurso de odio en línea, una realidad común en la actualidad.
El funcionamiento de esta tecnología se basa en generar respuestas positivas ricas en información y auténticas a los mensajes de odio, centrándose en desmantelar de manera efectiva los argumentos discriminatorios, a diferencia de las respuestas convencionales que simplemente eliminan o denuncian el contenido ofensivo, una práctica que a veces puede tener resultados contraproducentes.
María Teresa Martín, catedrática de Informática y promotora del sistema, subrayó al medio de comunicación EFE, la eficacia de esta inteligencia artificial al generar debates de calidad superior en el 80% de los casos en comparación con las respuestas humanas, según un estudio que realizó.
El Observatorio de Al-Azhar contra el Extremismo destaca que estos avances tecnológicos representan un gran progreso en la lucha contra los delitos de odio en España, y su alcance puede extenderse a otras partes del mundo, proporcionando a las autoridades y organizaciones sociales una metodología más efectiva y directa para combatir el odio en línea. Además, nos muestra cómo la tecnología, cuando se aplica con fines sociales positivos, puede convertirse en un poderoso aliado para construir una sociedad tolerante y armoniosa.
La implementación de Real-Up marca un hito significativo en la lucha contra el discurso de odio en las redes sociales en España. Esta innovadora tecnología basada en inteligencia artificial no solo proporciona respuestas precisas y efectivas, sino que también promueve un enfoque proactivo para desafiar los argumentos discriminatorios. Con el potencial de expandirse a nivel mundial, Real-Up ofrece a las autoridades y organizaciones sociales una herramienta poderosa para combatir el odio en línea y construir una sociedad más tolerante e inclusiva. A medida que España lidera este ambicioso proyecto, queda claro que la tecnología, cuando se utiliza con fines sociales positivos, puede desempeñar un papel fundamental en la creación de un entorno digital más seguro y respetuoso para todos.