Desenvolupen a Alacant una aplicació a la qual insultar per a detectar el llenguatge ofensiu en internet

Investigadors del Grup de Processament del Llenguatge i Sistemes d'Informació (Gplsi) de la Universitat d'Alacant (UA) han desenvolupat un programa informàtic denominat Fiero, que recull els insults i els emmagatzema per a generar uns recursos lingüístics denominats lexicons (llistes de paraules). Els investigadors entrenen, mitjançant algorismes d'aprenentatge automàtic, sistemes computacionals basats en tecnologies del llenguatge humà per a poder afrontar problemes socials. L'objectiu és detectar, per exemple, notícies falses (fake news), el ciberassetjament, la propagació del discurs de l'odi i del llenguatge ofensiu, o problemes de salut mental com l'anorèxia, la depressió i, fins i tot, per a la prevenció del suïcidi.

Aquest treball s'emmarca en un projecte d'investigació orientat a desenvolupar models del llenguatge denominat Living-Lang, coordinat pel Grup de Sistemes Intel·ligents d'Accés a la Informació (Sinai) de la Universitat de Jaén (UJA).

Per a desenvolupar aquests sistemes és fonamental i imprescindible comptar amb recursos lingüístics que permeten entrenar els sistemes d'aprenentatge automàtic. “Per als sistemes de detecció automàtica de llenguatge ofensiu és molt interessant disposar de diferents diccionaris i lexicons d'insults, paraules malsonants”, segons indiquen des de la UA.

Demanen la col·laboració de la gent per a recopilar insults

A causa de la dificultat de recopilar-los, l'equip de treball del projecte busca la col·laboració de la ciutadania en general. Per a accedir al bot Fiero, l'usuari ha de tindre instal·lada prèviament l'aplicació de Telegram. S'executa dins d'aquesta l'aplicació de missatgeria i s'instal·la en els telèfons intel·ligents (Android i iOS) amb l'únic objectiu d'arreplegar insults de la gent.

Una vegada instal·lada en el mòbil, s'obri un diàleg en el qual l'usuari pot incloure tots els insults (com més millor) als quals Fiero contesta amb certa sorna i ironia amb la finalitat d'aconseguir més insults per part de l'usuari. “El sistema va emmagatzemant tots aquests insults que posteriorment seran processats per a ser inclosos en un recurs lèxic que es posarà a la disposició de la comunitat científica i que servirà, a més, per a entrenar els sistemes d'aprenentatge automàtic que es desenvolupen”, expliquen els creadors.

Detectar el llenguatge ofensiu amb la intel·ligència artificial

Una vegada s'hagen recollit les dades amb aquesta eina i en col·laboració amb els investigadors del grup Sinai, es crearan sistemes automàtics d'intel·ligència artificial capaços de detectar i alertar d'insults tant en xarxes socials com en altres mecanismes de missatgeria en els quals es vulga incorporar.

“El desenvolupament d'aquesta tecnologia ha sorgit des del Gplsi, amb una alta implicació d'estudiants d'Enginyeria Multimèdia en pràctiques, i té la finalitat d'utilitzar-lo en la captació d'insults que servisquen per a crear un diccionari popular sobre aquest tema”, segons expliquen des del Grup de Processament del Llenguatge i Sistemes d'Informació de la Universitat d'Alacant.