El món es desperta als perills de la IA

La intel·ligència artificial (IA), un conjunt de tecnologies que faciliten tota classe de funcions que fins ara havia de fer la capacitat humana, està suposant un tsunami per a moltes activitats. Fotos, vídeos, disseny, ensenyament, informació, pintura, literatura o música són només alguns camps en els quals la IA ha irromput per a marcar un abans i un després. És una tecnologia transversal que sembla haver arribat per a quedar-se, però sobre la qual en els últims dies s'està alertant pels perills que també comporta. El debat sobre els riscos de la intel·ligència artificial s’intensifica mentre les grans empreses tecnològiques continuen accelerant-ne el desenvolupament i les potències mundials es miren de reüll per a no perdre la carrera.

El primer senyal d'alerta va arribar amb la dimissió, el 9 de setembre, d'un enginyer d'Anthropic i exdesenvolupador de ChatGPT: "La IA podria matar-nos a tots a finals de la dècada", va dir el jove en un missatge que va destapar la caixa de Pandora. Un missatge que alguns van considerar alarmista, però al qual, només quatre dies després, es va sumar el fundador d’Anthropic, Dario Amodei. El debat sobre els riscos de la intel·ligència artificial s’intensifica mentre les grans empreses tecnològiques continuen accelerant-ne el desenvolupament. El fundador d’Anthropic, Dario Amodei, va assegurar que "la indústria va mentir" sobre els perills de la IA i va reclamar més control dels governs sobre una tecnologia que considera cada vegada més poderosa. "No els mentiré: existixen perills reals. I crec que durant massa temps la indústria va mentir a la gent sobre el fet que esta tecnologia tenia riscos. Nosaltres mai ho vam fer (en Anthropic), però molta de la indústria ho va fer", va declarar Amodei.

El director d'Anthropic va considerar "el dilema més dur" del debat el fet que, si els Estats Units alentixen el desenvolupament de la IA, la Xina avançaria. Tot i això, va reiterar este diumenge l'advertència que va publicar dissabte en un assaig en què va urgir "un ritme més lent" a la indústria pels creixents riscos de seguretat de la IA, una cosa a què es van sumar els rivals Altman, d'OpenAI, i Musk, de xAI, un fet inèdit en el sector.

"Si construïm de la manera correcta (la IA), crec que la probabilitat que passe alguna cosa dolenta és molt baixa. Si construïm de la manera incorrecta, la probabilitat que passe alguna cosa dolenta és molt alta", va apuntar el directiu d'Anthropic.

Malgrat les alertes, el president nord-americà Donald Trump i el líder de la Cambra de Representants, Mike Johnson, van considerar este diumenge que el desenvolupament de la IA ha de seguir per a evitar que la Xina tinga el lideratge en la tecnologia. Per contra, el líder dels demòcrates a la Cambra de Representants dels Estats Units, Hakeem Jeffries, va demanar este diumenge al Congrés "actuar amb urgència" per a alentir la intel·ligència artificial després de les alarmes de gegants del sector.

També la Xina ha posat estos dies el tema damunt de la taula. El ministre xinés de Seguretat de l'Estat, Chen Yixin, va demanar este diumenge construir una "barrera de seguretat" entorn de la intel·ligència artificial, en un moment de creixent preocupació a Pequín i Washington pels riscos polítics, socials i tecnològics d'esta ferramenta. Chen va sostindre que la IA s'ha convertit en un camp principal de competència tecnològica global i en una nova via de "rivalitat entre grans potències", segons un text publicat per l'Administració del Ciberespai de la Xina, el principal òrgan regulador de l'Internet xinés, en el seu compte oficial en la xarxa social Wechat.

El responsable de l'organisme va demanar un impuls en el desenvolupament "saludable i ordenat" de la IA, però també reforçar la supervisió sobre dades, algoritmes, infraestructura de computació i aplicacions d'ús civil i militar.

I els missatges de preocupació han tingut ressò en altres punts del món. El president de Sud-àfrica, Cyril Ramaphosa, va proposar este diumenge en la cimera dels BRICS crear un mecanisme internacional d'avaluació científica independent per a la intel·ligència artificial i va exigir que el processament i el valor afegit dels minerals extrets del sòl africà es facen als seus països d'origen. Durant la intervenció en la sessió plenària del bloc a Nova Delhi, el mandatari sud-africà va advertir sobre els riscos de seguretat i ciberatacs derivats del ràpid avanç de la IA. “La nostra responsabilitat és garantir que la governança humana avance tan ràpidament com la mateixa intel·ligència artificial”, va afirmar Ramaphosa, després d'instar a evitar que "la capacitat tecnològica supere la nostra capacitat d'entendre-la, supervisar-la i controlar-la".