La UPV participa en un projecte europeu per a para protegir els sistemes d'IA dels ciberatacs

La Universitat Politècnica de València (UPV) participa en un projecte europeu per a protegir els sistemes d'intel·ligència artificial enfront de ciberatacs. L'objectiu és crear una plataforma de seguretat i entrenar professionals perquè l'apliquen, ja que este tipus d'atacs són cada vegada més freqüents.

La intel·ligència artificial també pateix ciberatacs. Es tracta d’enganyar-la perquè interprete dades malicioses com si foren bones. Salvador Cuñat, investigador del grup SATDR de la UPV, dona un exemple: enganyar una intel·ligència artificial que reconeix una mena de fotos perquè les identifique incorrectament. També hi ha atacs que busquen influir en les ferramentes de detecció de fraus en línia, per a poder enganyar les persones més fàcilment.

Els anomenats atacs adversaris poden provocar greus problemes de seguretat, per això és clau desenvolupar noves ferramentes per a frenar-los.

L’ús de la IA està cada vegada més generalitzat i, per tant, en contínua evolució. Per això este grup investiga i busca errades en el funcionament per a poder anticipar-se a potencials atacs, explica Nacho de la Calle, un altre investigador del grup SATDR.

La UPV és l'única universitat espanyola que col·labora en este projecte europeu fent, principalment, tasques de coordinació, tot i que també fan un poc de desenvolupament.

A més, preparen també una ferramenta per a formar professionals en la matèria. Un programa de cursos per a formar a les plantilles de les empreses en prevenció d’atacs amb el que van aprenent de les seues investigacions.

El projecte CPAID el finança la Unió Europea i conclourà el setembre del 2027.