Investigadores de la UA trabajan un sistema para detectar noticias falsas, lenguaje nocivo y contenido de IA

 ALICANTE.- La directora del departamento de Lenguajes y Sistemas Informáticos y catedrática de la Universidad de Alicante (UA), Estela Saquete, lidera un estudio dirigido al desarrollo de un sistema capaz de detectar noticias falsas, lenguaje nocivo e informaciones y contenidos generados de forma automática por inteligencia artificial (IA).

El estudio se inscribe en la estrategia del Centro de Inteligencia Digital de la Provincia de Alicante (Cenid), impulsado conjuntamente por la UA, la Universidad de Elche (UMH) y la Diputación, y responde a su estrategia de "abordar diferentes desafíos clave, ajustados a las inquietudes actuales de la sociedad".

En concreto, según ha apuntado la UA en un comunicado, esta investigación analiza distintas tecnologías y herramientas digitales, como el procesamiento del lenguaje natural o técnicas de 'deep learning', con el objetivo de "ayudar a las instituciones públicas a promover un entorno digital seguro".

Como resultado de estas investigaciones, el proyecto propone un modelo tecnológico basado en la creación de una base de datos estructurada que permita "desarrollar modelos de lenguaje avanzados, optimizados para la detección de confiabilidad, violencia y contenido que provenga de IA".

Además, la herramienta "se entrenará" con modelos de lenguaje que "se ajustarán progresivamente para mejorar su precisión en cada una de las áreas de análisis". 

También se diseñará e implementará una interfaz que integre los algoritmos y modelos del sistema, para "facilitar" su aplicación en el entorno digital, con un enfoque inicial en la provincia de Alicante.

Posteriormente, se llevará a cabo una evaluación interna de cada módulo y una prueba experimental en una administración pública alicantina para validar su eficacia.

Para la ejecución del proyecto hay varias actividades planteadas en distintas fases. En primer lugar, el trabajo empezará analizando y determinando cuáles son las amenazas que pueden afectar a los diferentes colectivos de la sociedad, mientras que el segundo paso será elaborar un informe que recoja los tipos de violencia sufridos por la ciudadanía y trabajadores de las administraciones.

En paralelo, se realizará un estudio sobre la aplicación y mejora de la tecnología del procesamiento del lenguaje natural (PLN) para detectar y reducir esas amenazas.

A continuación, como resultado de los estudios anteriormente mencionados, se diseñará un modelo que permita aplicar tecnologías de procesamiento del lenguaje para detectar amenazas en el consumo de información, en especial, dentro de la administración pública local.

Por último, se presentará el proyecto en distintas convocatorias nacionales e internacionales, con el objetivo de "ampliar su visibilidad e impacto".

Según la UA, "esta iniciativa representa un avance significativo en la seguridad digital y la protección de la ciudadanía en un entorno cada vez más interconectado a través del uso de tecnologías avanzadas, desarrollando soluciones innovadoras para combatir la desinformación, prevenir riesgos y fortalecer la ciberseguridad".