El fundador d’Anthropic afirma que "la indústria va mentir" sobre el perill de la IA

El debat sobre els riscos de la intel·ligència artificial s’intensifica mentre les grans empreses tecnològiques continuen accelerant-ne el desenvolupament. El fundador d’Anthropic, Dario Amodei, ha assegurat que "la indústria va mentir" sobre els perills de la IA i ha reclamat més control dels governs sobre una tecnologia que considera cada vegada més poderosa.

Amodei ha defensat que la indústria ha "d’abaixar el ritme" de desenvolupament davant de riscos com els ciberatacs, el bioterrorisme, la disrupció econòmica o la possibilitat de perdre el control dels sistemes d’IA. Tot i això, rebutja una prohibició completa de la tecnologia perquè considera que impediria obtindre beneficis com possibles avanços mèdics i perquè altres països, inclosa la Xina, continuarien desenvolupant-la.

El responsable d’Anthropic considera especialment difícil el dilema que planteja la competència entre els Estats Units i la Xina i reclama una "combinació de governs democràtics" amb una "governança conjunta" i mecanismes de supervisió de les empreses d’IA.

OpenAI ajorna la seua eixida a borsa

En paral·lel, el conseller delegat d’OpenAI, Sam Altman, ha anunciat que l’empresa creadora de ChatGPT no eixirà a borsa enguany. Altman considera que, tenint en compte els actuals reptes de seguretat, "seria un moment poc prudent per a eixir a borsa" i assegura que la companyia no té pressa per fer-ho.

El màxim responsable d’OpenAI ha reconegut que l’empresa està alentint alguns processos d’entrenament i ha qualificat "d’inacceptable" qualsevol escenari en què existisca un 10% de probabilitat que es produïsca una catàstrofe derivada de la falta de control sobre els sistemes d’intel·ligència artificial.

Altman també ha assegurat que OpenAI està disposada a prendre decisions "contràries al benefici financer immediat" dels inversors per a preservar el control humà sobre la tecnologia.

Amodei i Altman han coincidit així en la necessitat d’incrementar les mesures de seguretat, en un debat que també ha arribat a l’àmbit polític. El president dels Estats Units, Donald Trump, i el líder de la Cambra de Representants, Mike Johnson, han defensat este diumenge que el desenvolupament de la IA ha de continuar per tal d'evitar que la Xina assolisca el lideratge tecnològic.