Un discurso de odio es todo aquel mensaje que contiene palabras ofensivas contra un colectivo concreto. Su proliferación en redes sociales es una problemática difícil de frenar para las plataformas. Existen algunas IA que detectan este tipo de mensajes, aunque la mayoría están entrenadas en inglés o de forma multilingüe, alcanzando muy poca precisión a la hora de detectarlos en español.
Es por ello que investigadores de la Escuela Politécnica de la UEX han desarrollado SHS-ALBETO, una IA entrenada exclusivamente en español, lo que la hace más precisa que los modelos en inglés o multilingües. El porcentaje de precisión que alcanza es del 78%, lo que supone una mejora, pero, al mismo tiempo, hay muchos aspectos que trabajar aún. Según explica Jesús M. Sánchez, investigador extremeño en la Universidad Carlos III de Madrid, "muchos usuarios escriben en redes sociales con faltas de ortografía, con acrónimos, que los modelos no entienden". Aun así, esta IA es capaz de identificar ironías sarcasmos o conjugaciones verbales, lo que la hace ideal no solo para el uso de plataformas, sino también de Policía o Guardia Civil a la hora de identificar delitos.
Además, necesita menos recursos de cómputo y consume menos energía, pero entrena más rápido, lo que la convierte en ideal para aplicaciones en tiempo real. El sistema analiza cada palabra de un texto considerando su relación con todas las demás palabras, mejorando la comprensión del contexto. El objetivo final, dicen, es que, más allá de procesar el lenguaje humano, sea capaz de comprenderlo.
