El papa advertix en la seua encíclica que la IA no és neutral i es concentra en poques mans

La intel·ligència artificial "no és neutra", advertix el papa Lleó XIV en la seua primera encíclica Magnifica Humanitas, dedicada a la protecció de la dignitat humana en l'era de la IA, on alerta del perill que esta tecnologia "es concentre en poques mans". Lleó XIV ha publicat este dilluns esta encíclica sobre els riscos que planteja la gran revolució de la nostra era: la de la intel·ligència artificial. Presentada en una roda de premsa inèdita, està datada el 15 de maig, el mateix dia en què el seu predecessor, Lleó XIII, va publicar fa 135 anys la Rerum Novarum per a respondre a les conseqüències de la revolució industrial i amb què va assentar les bases de la doctrina social de l'Església moderna.

Davant d'esta nova revolució, el papa reclama "un orde social just en l'era digital, marcs jurídics adequats, regles justes i mecanismes de protecció eficaços". Entre les seues primeres reflexions en les 110 pàgines del document sosté que "les innovacions tecnològiques —inclosa la intel·ligència artificial— no són neutres; poden augmentar la participació i la justícia, o ampliar les desigualtats, el control i l'exclusió".

Sobre la IA, advertix d'"usos evidentment antihumans, com la manipulació de la informació o la violació de la privacitat", i també d'un engany més subtil quan els sistemes, "presentant-se com a neutrals i objectius, reflectixen i reforcen estereotips o posicions ideològiques de qui els ha dissenyat i programat".

Molt de poder en poques mans

El pontífex estatunidenc subratlla que les noves tecnologies (patents, algoritmes, plataformes digitals, infraestructures, dades) "queden concentrades en les mans d'uns pocs, sense formes adequades d'intercanvi i d'accés". Són empreses i plataformes que absorbixen eixes competències, dades i capacitat de decisió les que definixen "condicions d'accés, regles de visibilitat, formes de relació i, fins i tot, oportunitats econòmiques". "Quan un poder de tal magnitud es concentra en poques mans, tendix a fer-se opac i a eludir el control públic, i creix el risc d'un desenvolupament distorsionat que provoca noves dependències, exclusions, manipulacions i desigualtats", advertix.

Considera Lleó XIV que "els estats i les institucions supranacionals estan cridats a garantir regles justes i mecanismes de protecció eficaços perquè les comunitats locals, els cossos intermedis, les escoles i les universitats, així com les realitats eclesials i associatives puguen tindre veu i contribuir a discernir les decisions que incidixen en la vida de les persones: treball, accés als servicis, gestió de les dades i ambients digitals". I advoca per "un orde social just en l'era digital" que garantisca "accés igualitari a les oportunitats, protegisca els més xicotets i els més fràgils, s'opose a l'odi i a la desinformació, i sotmeta a control públic l'ús de les dades i de les tecnologies, de manera que el criteri no siga només el benefici sinó la dignitat de cada persona i el bé dels pobles".

El papa reclama marcs jurídics adequats i que la política no renuncie a la seua tasca

Perquè la IA respecte la dignitat humana, el papa reclama "responsabilitats" clares d'aquells que la creen i també "marcs jurídics adequats, vigilància independent, educació dels usuaris, una política que no renuncie a la seua tasca", perquè si no "el canvi serà governat només per lògiques tecnocràtiques". Apunta, a més, "fenòmens de captació, xantatge i explotació sexual de menors, que esdevenen més insidiosos per l'ús de perfils falsos, d'algorismes que amplifiquen contactes perillosos i d'eines d'IA capaces de manipular imatges i vídeos".

Assenyala que "tindre un telèfon mòbil personal massa prompte i utilitzar-lo sense el control dels adults pot accentuar la fragilitat i afavorir les addiccions en els jóvens", i acabar exposant-los a aïllament, assetjament, ciberassetjament i pressions per a compartir imatges íntimes o dades delicades, per la qual cosa demana límits d'edat i més responsabilitat dels proveïdors.

Amenaces per al món del treball

També aborda el món del treball, on "contràriament als beneficis anunciats sobre la IA, els enfocaments actuals de la tecnologia poden, paradoxalment, desespecialitzar els treballadors, sotmetre'ls a una vigilància automatitzada i relegar-los a tasques rígides i repetitives". Per això, insta que "tota introducció d'automatització i d'IA hauria d'anar acompanyada de mesures verificables de protecció de l'ocupació, de requalificació i de participació dels treballadors, perquè la tecnologia s'oriente a alliberar temps i capacitats humanes, no a generar exclusió".