Anthropic assegura haver frenat possibles intents de crear armes biològiques amb la seua IA
L'anunci té lloc l'endemà que un dels enginyers de la tecnològica californiana, creadora de Claude, alertara del perill existencial que poden suposar eines per a la humanitat
L'empresa d'intel·ligència artificial Anthropic, creadora de productes com Claude, ha afirmat haver frustrat diversos possibles complots en els quals es van utilitzar els seus models d'intel·ligència artificial (IA) per a dur a terme investigacions que podrien haver contribuït al desenvolupament d'armes biològiques. En un informe fet públic este dijous, la companyia indica que ha detectat i bloquejat usos indeguts de la seua tecnologia enguany, encara que no ha pogut determinar si els estudis tenien finalitats legítimes o malicioses. Per això, va optar per bloquejar-los davant del risc que la seua tecnologia poguera contribuir al desenvolupament de patògens perillosos per a la humanitat.
"Si bé les avaluacions són útils perquè proporcionen evidència de capacitat, no poden demostrar concretament que esta capacitat s'utilitzaria alguna vegada per a desenvolupar armes biològiques en el món real", explica l'empresa en el document. La publicació d'este informe té lloc l'endemà que un jove empleat d'Anthropic dimitira i alertara públicament en X del perill d'extinció civilitzatòria per a la humanitat que pot provocar la IA en els pròxims anys. Una de les opcions és, precisament, un eventual ús maliciós per part d'humans.
Fins ara, la corporació californiana ha negat que tinguera constància que alguna empresa privada haja compartit públicament "evidència del possible mal ús de les seues plataformes per al desenvolupament d'armes biològiques". Anthropic, a més, arreplega en un altre comunicat una extensa llista de casos detectats en els últims huit mesos en què s'havien usat els seus models d'IA de manera indeguda, inclòs el bot Claude, a la Xina, Rússia i el Iemen.
Este informe sorgix entre creixents preocupacions d'experts en el sector tecnològic per l'ús dual de la IA, ja que els models capaços d'ajudar en investigacions biològiques també poden servir per a activitats perilloses, així com de veus que alerten dels perills derivats de la creixent autonomia dels models. Anthropic assegura haver desenvolupat sistemes de detecció per a identificar i bloquejar els usos que puguen suposar un risc en els seus models d'IA.
L'Iran ha planificat possibles atacs contra els Estats Units amb IA
Una altra de les revelacions de l'informe d'Anthropic conegut este dijous assenyala que actors vinculats al govern de l'Iran van utilitzar el model d'intel·ligència artificial Claude per a donar suport a operacions de vigilància, com ara planificar possibles atacs contra objectius estatunidencs i propaganda.
En el document, de 154 pàgines, l'empresa estatunidenca apunta que les seues eines d'IA poden ajudar a identificar objectius i processar grans quantitats d'informació relacionada amb dissidents, periodistes, activistes i polítics, cosa que permet als governs fer més eficients sistemes de vigilància que ja existixen. En el cas iranià, els usuaris van recórrer, a més, a mecanismes per a esquivar les restriccions d'accés a Claude, que no està disponible oficialment al país, i van utilitzar xarxes privades virtuals i números de telèfon estrangers per a entrar al servici.
OpenAI estudia alentir el desenvolupament de la IA
En este context d'inseguretat i debat sobre els perills de la IA, OpenAI (creador de ChatGPT) ha dit que estudia la possibilitat d'alentir el desenvolupament dels seus sistemes d'avantguarda i el conseller delegat, Sam Altman, espera que altres empreses del sector facen el mateix, segons Bloomberg. El directiu, d'acord amb fonts coneixedores citades en la informació de l'agència, ha comunicat als empleats en una reunió amb tota la plantilla feta esta setmana que la companyia podria moderar el ritme de desenvolupament de la IA, possiblement en col·laboració amb altres empreses.
Les declaracions es fan després que empleats de les principals empreses d'IA hagen expressat públicament en les últimes setmanes la seua preocupació per l'augment dels riscos associats als sistemes avançats de la IA. El científic en cap d'OpenAI, Jakub Pachocki, va publicar recentment un article en el qual advertia dels perills d'esta tecnologia i defensava que les empreses del sector haurien de coordinar-se per a alentir el desenvolupament futur quan siga necessari. El tècnic va afegir que espera que els alentiments voluntaris es convertisquen en una cosa habitual fins que s'establisquen uns límits de seguretat comuns.
