Javier Palanca (UPV): "No és possible que la IA tinga iniciativa pròpia, una altra cosa és que la utilitzem per al mal"

"És cert que hem de tindre molta cura, hem de vigilar molt, hem de tractar de fer una IA molt responsable i molt ètica, però d'ací a pensar que acabarà en la humanitat, em pareix un bot prou gran". Qui ho diu és el professor Javier Palanca, investigador de l’institut VRAIN de l'Universitat Polictècnica de València (UPV), entrevistat este dimecres en Les notícies del matí. Amb esta declaració, l'expert respon a la preocupació que envolta el desenvolupament de la IA després que un enginyer d'Anthropic presentara la dimissió i advertira que al ritme que evoluciona actualment, la IA "podria matar-nos a tots a finals de la dècada". L'investigador valencià ha matisat i contextualitzat i ha remarcat que es tracta de la ferramenta "més potent que ha creat la humanitat". Però, reitera que "no està descontrolada perquè no és intel·ligent, no és una ment pensant, però es podria gastar mal i tindre conseqüències molt malignes". L'expert ha volgut tranquil·litzar l'opinió pública. "No és possible que (la IA) tinga iniciativa pròpia, altra cosa és que la gastem per al mal", ha defensat.

"És la ferramenta més potent que ha creat la humanitat"

L'evolució de la IA planteja nous reptes, principalment el de la seguretat. L'Agència Espanyola de Protecció de Dades investiga el que podria ser el primer ciberatac executat per un agent d'IA de manera autònoma. "Hem d'estar tranquils perquè la IA no serà autònoma del tot, va fer eixe atac perquè tenia eixe objectiu marcat per un humà. Ella el que va fer és gastar totes les ferramentes que tenia al seu abast per a solucionar el problema que li varen demanar. Ara tenim una tecnologia tan potent que el que pensàvem que era segur, ja no ho és", ha argumentat preguntat pel tema.

Palanca, en tot cas, considera que no és casualitat que les quatre grans empreses del món en IA s'hagen posat d'acord (en advertir dels riscos d'una evolució massa ràpida d'esta tecnologia), encara que ha afegit que sempre és una bona notícia parar un poc i pensar amb més cautela.

Preguntat sobre com la IA transforma les aules, el professor defensa ser conscient que canviarà l'educació i ha reconegut "reptes importants" als que fer front. L'ús de ferramentes digitals per part dels estudiants és un d'estos reptes. "Trobem que cada vegada fan menys per ells mateixos i això ho hem de controlar. Hem pensat fins i tot en apps de detecció metàl·lica per a entrar als exàmens perquè claven tota classe de dispositius electrònics", ha explicat durant l'entrevista. Sobre la forma de vigilar si els textos dels alumnes estan fets en IA, el professor defensa que no veu mal fer ús de la ferramenta, però han de revisar el text i evitar errors. En tot cas, li ha llevat importància a fer textos en IA i considera que esta polèmica haurà desaparegut en uns anys. "No manifestem quan hem gastat el corrector del word i és una IA. I gastem un ordinador en compte d'escriure a mà. Crec que s'acostumarem", ha dit.

"Estem en una nova revolució industrial i encara no sabem per on venen les coses", ha respost preguntat per si les empreses i les administracions estan preparades per a esta nova realitat. "Fa falta molta formació", ha afegit Palanca, que admet que és complicat saber per on evolucionarà la ferramenta.

"Estem en una nova revolució industrial i encara no sabem per on venen les coses"

Sobre la legislació, Palanca ha assegurat que la UE és l'única entitat que està regulant el tema, i no la Xina ni EUA, el que fa que la "carrera siga desigual". "Què hauríem de legislar: un mal ús de l'enginyeria, de la manipulació de la identitat... Ara, la majoria dels casos ja estan legislats", contextualitza.