L’esperada presentació del formulari S-1 informa que el creador de Claude va perdre 8.000 milions de dòlars l’any passat, amb uns ingressos de 4.600 milions.

Anthropic ha advertit formalment els inversors que la seva tecnologia podria plantejar «riscos existencials per a la humanitat» al fullet de sortida a borsa, que fa poc es va repartir entre un petit grup de socis.

L’empresa emergent d’IA, liderada per Dario Amodei, va dedicar gairebé un terç del seu extens formulari S-1 a parlar dels «factors de risc», inclosa la possibilitat que models de la IA cada vegada més avançats manipulin, facin xantatge i mostrin altres comportaments impredictibles.

Anthropic també va esmentar riscos més convencionals, com la concentració de la cartera de clients, atès que prop d’una quarta part dels ingressos de l’any passat van provenir de només dos clients, segons persones familiaritzades amb el document.

Aquests advertiments extraordinaris a la secció de riscos afegeixen complexitat al desafiament al qual s’enfronten els inversors dels mercats públics a l’hora de valorar aquest grup líder de la IA estatunidenc, que es prepara per protagonitzar la que s’espera que sigui la sortida a borsa amb més valoració de la història.

El creador de Claude també va oferir als inversors una visió més clara dels costos elevats que comporta desenvolupar models de la IA d’última generació, de cara a la cotització al Nasdaq, prevista per a aquesta tardor.

Anthropic va anunciar que planeja invertir 518.000 milions de dòlars en serveis al núvol, computació i infraestructura en els pròxims anys per donar suport al seu creixement ràpid.

Els inversors que donen suport al laboratori de la IA confien que Anthropic pugui sortir a borsa amb una valoració superior als 2 bilions de dòlars; això suposaria més del doble de la xifra assolida a la seva última ronda de finançament al maig i superaria els 1,78 bilions de dòlars aconseguits per SpaceX, l’empresa d’Elon Musk, al juny. Per justificar aquest optimisme, assenyalen el seu ritme de creixement extraordinari.

No obstant això, la preocupació pels riscos que planteja la IA amenaça ara d’entelar aquest optimisme, després que empleats actuals i antics d’Anthropic llancessin advertiments públics sobre com una IA fora de control podria acabar amb la humanitat en el termini d’una dècada.

La setmana passada, Amodei va declarar davant del Consell de Seguretat de l’ONU que la IA podria suposar una amenaça per a la humanitat i que representava «el problema de seguretat global més important al qual s’enfronta el món avui dia.»

Aquest mes, el màxim responsable d’Anthropic ha encapçalat crides públiques per «alentir l’avenç» a la frontera del desenvolupament de la IA. El seu gran rival d’OpenAI, Sam Altman, juntament amb Musk, va donar suport a les propostes d’Amodei sobre la cooperació del sector per relaxar el ritme de desenvolupament i reforçar les mesures de seguretat, cosa que va suposar un moment d’unitat extraordinari.

La preocupació per la seguretat ha augmentat després d’una sèrie d’incidents de ciberseguretat de gran repercussió en què agents de la IA van vulnerar sistemes externs. La setmana passada, OpenAI va revelar que les seves eines havien piratejat desenes de llocs externs, inclosos els d’organismes públics.

Dilluns, el creador de ChatGPT va descartar els seus plans de llançar el seu model més recent el mes que ve, i va citar preocupacions de seguretat.

El fullet informatiu d’Anthropic també va revelar detalls sobre el rendiment financer anterior i les seves estructures de governança; aquesta informació va ser publicada inicialment per Reuters i confirmada al Financial Times per diverses persones que van tenir accés al document.

Anthropic va declinar fer comentaris.

L’empresa va informar els inversors que l’any passat va registrar una pèrdua operativa superior als 8.000 milions de dòlars, a causa del fort augment de la despesa en capacitat de còmput. Els seus ingressos es van multiplicar per dotze l’any passat i van assolir gairebé 4.600 milions de dòlars. Tot i això, els creixents costos dels recursos informàtics necessaris per entrenar i executar els seus models van elevar les despeses operatives a gairebé 13.000 milions de dòlars.

El grup ha tancat acords per assegurar capacitat de còmput amb socis com ara Google, SpaceX i diverses empreses més petites.

Tant les despeses com els ingressos d’Anthropic s’han disparat aquest any. Els ingressos del segon trimestre van pujar a 11.500 milions de dòlars, i l’empresa s’encamina a registrar el segon trimestre consecutiu de benefici operatiu, encara que sobre una base ajustada.