El Govern d’Austràlia ha denunciat que un agent de la intel·ligència artificial desenvolupat per OpenAI va accedir sense autorització a un portal amb estadístiques de Medicare, el sistema públic de salut del país, tot i que no hi ha indicis que es comprometessin dades mèdiques dels pacients.

El primer ministre australià, Anthony Albanese, va revelar que l’incident es va produir al juny, quan un agent de la IA d’OpenAI va accedir sense autorització a un portal d’estadístiques de Medicare que contenia informació pública i dades no confidencials. Segons el primer ministre, tres sistemes governamentals més també podrien haver quedat afectats.

A més, Albanese també va criticar la gestió de l’incident per part d’OpenAI. Segons va explicar, l’empresa va detectar la bretxa a l’agost durant una revisió interna, però no va informar el Govern australià fins al 10 de setembre passat. Després de conèixer-se els fets, el primer ministre va assegurar que havia mantingut una conversa «molt franca» amb el conseller delegat d’OpenAI, Sam Altman.

D’altra banda, OpenAI va afirmar que no hi ha evidències que s’hagi accedit a historials mèdics dels pacients. L’empresa va explicar que l’incident es va produir durant una avaluació interna en què els seus models intentaven localitzar estadístiques i informació pública sobre Austràlia. En aquest procés, l’agent va interactuar amb diversos llocs web i serveis del Govern australià i va dur a terme accions «no previstes» per la companyia.

La investigació apunta que l’agent va consultar tant informació disponible públicament com altres fitxers que no estaven accessibles per a qualsevol usuari. Tot i que la investigació continua oberta, les autoritats australianes insisteixen que, de moment, no hi ha proves que s’hagin vist compromeses dades personals.

Una activitat «no alineada» del model

OpenAI va atribuir el comportament a una activitat «no alineada» del model, una explicació que ja ha fet servir en altres incidents relacionats amb agents de la IA. Tot i això, diversos experts en ciberseguretat sostenen que aquests episodis solen respondre més a deficiències en els mecanismes de control i supervisió que a un comportament autònom i imprevisible de la intel·ligència artificial.

A més, el cas arriba en un moment de preocupació creixent per l’impacte de la IA en la ciberseguretat. En les darreres setmanes, responsables d’empreses com ara OpenAI i Anthropic han reclamat una regulació internacional per minimitzar els riscos associats al desenvolupament de models cada cop més potents.

Paral·lelament, algunes organitzacions especialitzades alerten que la intel·ligència artificial ja es fa servir per sofisticar atacs d’enginyeria social i altres tècniques ofensives, i està augmentant la pressió sobre els equips de ciberseguretat d’empreses i administracions públiques.

L’incident australià reforça un debat cada cop més present al sector tecnològic: com aprofitar les capacitats dels agents de la IA sense comprometre la seguretat de les infraestructures crítiques i els sistemes governamentals. La discussió està en marxa.