Dimitix un enginyer d'Anthropic i exdesenvolupador de ChatGPT: "La IA podria matar-nos a tots a finals de la dècada"
Jacob Coxon causa un terratrémol amb una dura advertència sobre la irresponsabilitat de les empreses que volen crear una superintel·ligència sobrehumana: "Estan "jugant amb les nostres vides"
Els desenvolupadors de les plataformes d'intel·ligència artificial Anthropic (creadora de productes com Claude) i OpenAI (ChatGPT) "no estan actuant amb responsabilitat" i estan "jugant amb les nostres vides". Participen en una cursa fora de control per a desenvolupar una superintel·ligència, espentats per la competència empresarial, tot i ser conscients dels riscos fatals.
"Prompte seran sistemes sobrehumans capaços de hackejar qualsevol cosa, revolucionar qualsevol camp de la nit al dia i adquirir poder i recursos reals." (...) "Les persones que estan construint IA creuen sincerament que podria matar-nos a tots per a finals de la dècada", ha advertit Jacob Coxon, un enginyer britànic de 27 anys, en un fil d'X en què anuncia la seua dimissió d'Anthropic i ha deixat bocabadat mig planeta. Només el primer missatge suma més de 85 milions de visualitzacions.
"No hi ha una altra activitat humana que supose este nivell d'amenaça" alerta Coxon, que atribuïx el mateix comportament irresponsable a la seua excompanyia, OpenAI, on va treballar com a desenvolupador dels sistemes GPT-4.0 i GPT-4.5.
Coxon creu que ambdues companyies (Anthropic i OpenAI) són conscients del perill però amb una diferència. Creu que els primers "potser no han internalitzat en profunditat els reptes per a la civilització", mentre els segons sí que els comprenen, però "estan atrapats en la carrera per a arribar primer" encara que siga des del convenciment que necessiten guanyar la competició perquè "ningú més actuarà de manera responsable".
Per a l'enginyer, la societat està subestimant el poder de la tecnologia, perquè en públic, executius i investigadors moderen el llenguatge "per a sonar sensats", mentre en privat "sent les mateixes persones expressar temor". Coxon no veu una altra eixida que la coordinació entre els diferents projectes empresarials d'IA, que sent que no s'està produint. Per això advoca per "accions costoses, com una prohibició temporal de millorar les capacitats del model (model capabilities), i demana als investigadors de la IA que reflexionen profundament sobre la qüestió.
Coxon tanca el fil apel·lant a desenvolupadors d'IA com ell: "Voleu potenciar un "aprenentatge per reforç'" superintel·ligent sense un enteniment rigorós de la seua ment? Abaixareu el cap perquè "total, ja està passant", o aprofitar este moment per a advocar per condicions diferents?", escriu.
Un investigador d'Anthropic rebaixa la possibilitat d'extinció a un 10%
L'investigador d'Anthropic Evan Hubinger ha matisat els comentaris de Coxon en X amb un missatge igualment inquietant. "En Jacob té raó: creiem fermament que la IA podria matar tots els humans! Personalment, crec que serà >10% en la dècada que ve [una possibilitat superior al deu per cent]. Crec que Anthropic està fent tot el possible, però encara no tenim un pla per resoldre l'alineació per a la superintel·ligència i no estem clarament en camí de fer-ho", ha escrit.
Malgrat això, Hubinger va considerar que el risc dels models actuals és baix, encara que el preocupant és "la superintel·ligència que sorgix de l'automillorament (...) que està ocorrent més ràpidament del que pensàvem".
Abans que Coxon altres investigadors han renunciat a participar en el desenvolupament de models d'IA entre advertències pels seus riscos. Entre ells hi ha el Nobel de Física Geoffrey Hinton, que en 2023 se'n va anar de Google per a poder criticar obertament els riscos de la IA. En 2024 exempleats d'OpenAI van publicar una carta mostrant preocupació per la velocitat en què s'estava desenvolupant esta intel·ligència artificial i la falta de protecció legal per a les persones perjudicades i potencials denunciants.
Anthropic, que presumix d'un enfocament ètic en el desenvolupament de la IA, manté un pols amb el departament de Guerra dels Estats Units després de negar-se a cedir-los el control absolut de les seues ferramentes d'intel·ligència artificial. El president Donald Trump va carregar contra la firma, que va alinear amb "l'esquerra radical", posant en risc un contracte de 200 milions de dòlars amb el Pentàgon. Els crítics consideren que en realitat l'operativa d'esta empresa no diferix massa de la resta d'IA i assenyalen que va rendibilitzar la controvèrsia per a l'eixida a borsa.
