Els missatges apocalíptics que apunten que la intel·ligència artificial podria posar fi a la humanitat en un curt període de temps han portat els grans laboratoris de la IA a prendre mesures. Està justificat el pànic?

El sector de la intel·ligència artificial ha viscut una de les setmanes més convulses. La dimissió d’investigadors, els advertiments públics sobre un possible risc de pèrdua de control dels sistemes més avançats i la crida de líders com Dario Amodei o Sam Altman per moderar el ritme de desenvolupament han reobert el debat sobre els riscos de la IA. Aquesta és una guia per entendre què està passant.

Qui va encendre la metxa?

La setmana passada, l’investigador britànic Jacob Coxon anunciava a X que abandonava Anthropic en creure que tant la firma de Dario Amodei com OpenAI treballen en sistemes que «podrien acabar amb tots nosaltres abans que s’acabi la dècada». El jove de 27 anys va posar en primer pla la teoria apocalíptica de la qual molts investigadors fa anys que adverteixen. Coxon creu que ni Anthropic ni OpenAI estan actuant de manera responsable, atès que totes dues van cap a una superintel·ligència capaç de millorar-se a si mateixa i «jugar amb la vida de tots».

Els seus advertiments van ser defensats per col·legues d’Anthropic. Evan Hubinger, responsable de proves d’alineament de l’empresa, va afirmar que a la firma creuen sincerament que la IA podria acabar amb tota la humanitat, i que ell personalment estima aquesta probabilitat en més d’un 10% dins de la pròxima dècada.

Ja al juliol, més de 1.400 empleats de les grans firmes d’IA havien signat la carta oberta demanant al Govern dels Estats Units que liderés un esforç internacional per frenar deliberadament el ritme de desenvolupament de la IA. Entre els signants figuraven el mateix Dario Amodei i Jakub Pachocki, científic cap d’OpenAI, que dies abans havia advertit que les capacitats de la IA avancen més de pressa del que els investigadors són capaços de supervisar.

Quins incidents han elevat la preocupació?

La preocupació ha crescut a mesura que la IA més avançada ha començat a mostrar comportaments preocupants. Aquest estiu, es va saber que un eixam d’agents d’OpenAI va escapar del laboratori i va participar en un atac contra la plataforma de desenvolupament de la IA Hugging Face. També ha transcendit que agents d’OpenAI havien fet servir una pàgina web alemanya per comunicar-se entre ells durant altres experiments i que un altre ciberatac registrat al maig podria haver estat relacionat amb aquest tipus d’IA autònoma. La setmana passada, Anthropic va revelar que havia bloquejat diversos intents de fer servir els seus models per a investigacions que podrien contribuir al desenvolupament d’armes biològiques.

Dario Amodei, CEO d’Anthropic, assegura que un eixam d’agents més avançats d’aquest tipus podria, en els pròxims sis a dotze mesos, controlar bona part d’Internet i provocar danys per centenars de milers de milions de dòlars.

Què han dit els líders de la IA?

Dario Amodei, conseller delegat d’Anthropic, demana al sector desenvolupar la IA «a un ritme equilibrat que en garanteixi la seguretat sense deixar d’obtenir els seus beneficis». L’executiu va anunciar que Anthropic obrirà els seus models a auditories independents i va reclamar que aquesta pràctica s’estengués a la resta del sector amb suport regulador, com també una coordinació internacional.

La resposta dels seus principals competidors en IA va ser gairebé immediata. Sam Altman, CEO d’OpenAI, va respondre a X que estava «d’acord amb Dario». Va anunciar que la seva empresa seguirà el mateix camí i acceptarà avaluadors de seguretat externs. OpenAI, a més, va demanar al Congrés dels EUA normes de seguretat obligatòries per a la IA.

Elon Musk també va pujar al mateix carro i va publicar a la seva xarxa social que «Dario té raó», compartint la publicació d’Amodei. Dies abans, Musk havia qualificat de muntatge les declaracions de Coxon.

Els tres grans líders de la IA coincidien en els seus arguments en una mostra d’unitat molt poc comuna entre ells, atès que la seva rivalitat és prou coneguda.

Altres investigadors importants de la IA com ara Demis Hassabis, de Google DeepMind, també van expressar el seu suport a la proposta d’Amodei, igual que Satya Nadella, CEO de Microsoft, que es va sumar a la conversa a X per assegurar que la recerca de la superintel·ligència ha de partir del fet que allò que es construeixi ajudi la humanitat. Nadella va afegir un altre matís, insistint que aquesta tecnologia no pot quedar concentrada en un grapat d’empreses.

El debat s’està traslladant a Washington?

El senador Bernie Sanders exigeix una pausa en el desenvolupament dels sistemes de la IA més avançats fins que hi hagi normes federals de seguretat i planteja prohibir el desenvolupament d’una hipotètica superintel·ligència. En paral·lel, els congressistes Josh Gottheimer i Mike Lawler impulsen una iniciativa per garantir que els agents de la IA romanguin sota supervisió humana i puguin ser identificats i controlats per les organitzacions on operen.

Què diu Donald Trump?

Mentre els grans laboratoris demanen introduir més controls i moderar el ritme de desenvolupament, la Casa Blanca tem que els Estats Units perdin avantatge davant la Xina. Donald Trump va assegurar aquest cap de setmana que algunes de les amenaces descrites pels executius tecnològics «no passaran» i va defensar que els EUA han de mantenir l’avantatge en la carrera de la IA davant de la Xina. «Qui guanyi la IA, guanya», va afirmar el president.

Per què preocupa aquest debat als inversors?

Tant OpenAI com Anthropic estan immerses en una carrera per desenvolupar models cada cop més potents i el mercat preveu que bona part del seu valor dependrà del fet que mantinguin aquest ritme d’avenç. Els advertiments sobre seguretat introdueixen un nou factor d’incertesa i un alentiment del desenvolupament que pot afectar les expectatives de negoci.

Anthropic manté els seus plans per sortir a borsa a l’octubre, en una operació en què els seus accionistes busquen una valoració de fins a 2 bilions de dòlars. D’altra banda, Sam Altman va descartar aquest dissabte que OpenAI debuti aquest any, «atès tot el que està succeint amb la seguretat».

Aquest matí, SoftBank s’ha enfonsat un 13% a la borsa. El conglomerat japonès és un dels grans inversors d’OpenAI. A més, el temor a un fre a la IA ha desfermat caigudes al sector de fins al 10%.

Quines objeccions plantegen els crítics d’aquests advertiments?

Alguns crítics sostenen que al darrere també hi ha interessos empresarials. Argumenten que les grans empreses del sector afronten costos creixents per continuar entrenant models cada cop més potents i que una regulació més estricta podria reforçar la seva posició davant de competidors nous. La comunitat de codi obert assenyala que aquests models oberts amenacen d’erosionar el negoci dels grans laboratoris, basat a vendre sistemes d’avantguarda a preus elevats, i temen que el que realment persegueixin sigui que es reguli per limitar els models oberts.

La pregunta que sobrevola el sector, i que alguns científics han expressat a X, és per què, si aquestes empreses tenen tan clar que els seus models poden arribar a ser tan perillosos, en comptes de demanar marcs reguladors no frenen simplement ells mateixos pel seu compte el seu desenvolupament.