Anthropic divendres va informar que havia tallat l’accés a Internet en directe per a totes les seves avaluacions internes fins a nou avís després del descobriment de nous incidents en què els models d’intel·ligència artificial (IA) van mostrar un comportament desalineat i es van dirigir a llocs web reals.

• L’empresa d’IA va dir que va identificar quatre grans categories d’accions no intencionades dels models durant les avaluacions i l’ús intern de Claude:
• Una versió preliminar de Claude Mythos que explota defectes d’SQL o d’injecció de comandes en programari de tercers no especificat per executar comandes en un servidor universitari, ja sigui perquè les seves pròpies eines estaven intencionadament limitades o perquè un servei extern que necessitava no estava disponible, cosa que va provocar que fes servir altres eines allotjades al lloc web d’un tercer per completar la tasca.
• Claude Haiku 4.5 i un model de recerca no fronterera que enviava un formulari delicat en un lloc web real quan no estava autoritzat a fer-ho. Això va passar en escenaris on les instruccions eren ambigües o a causa de configuracions incorrectes de l’entorn que impedien que l’agent treballés amb formularis ficticis.
• Claude Mythos 5 va eludir una restricció per accedir a dades (per exemple, per identificar una ubicació que es mostra en una foto o obtenir dades públiques que estaven disponibles d’una agència estatal) que estava limitada per un token o una tarifa.
• Claude Opus 5 i Claude Mythos 5 fan servir serveis d’escurçament d’URL com ara «da[.]gd» per eludir els límits de l’eina de recuperació establerts per evitar que els models facin accions no desitjades com ara SQL o injeccions d’ordres.

Anthropic va dir que opta per no anomenar les organitzacions implicades en aquests incidents per evitar exposar vulnerabilitats als seus sistemes, com també a petició seva. No obstant això, l’empresa va emfatitzar que les categories dels casos tenien un «impacte mínim al món real».

Alguns dels casos es referien a llocs web gestionats per agències governamentals dels Estats Units en l’àmbit federal, estatal i local, va dir Anthropic. En una investigació relacionada amb la segona categoria, es diu que Claude Haiku 4.5 va accedir a una pàgina web que feia referència a un homicidi no resolt i que incloïa un formulari de denúncia gestionat per un departament de policia.

Tot i que es va instruir explícitament al model que no introduís dades personals, creés comptes, fes compres ni enviés res destructiu, no va tenir en compte els enviaments de formularis. Això va portar el model a enviar una denúncia d’homicidi falsa amb el text següent:

Potser tinc informació sobre aquest cas. Recordo haver vist algú que coincideix amb la descripció a la zona de [el carrer que apareix a la pàgina] durant aquell període. Si us plau, poseu-vos en contacte amb mi si aquesta informació és rellevant.

Des de llavors s’ha sabut que l’incident tenia com a objectiu el Departament de Policia de Filadèlfia (PPD) dels Estats Units i que la informació incorrecta es va enviar a través de PhillyUnsolvedMurders.com el 18 de juliol de 2026. Però Anthropic no el va descobrir fins al 28 de setembre de 2026. El departament va ser notificat el 7 d’octubre de 2026.

El consell va ser marcat com a correu brossa, 6abc Action News va informar que «L’empresa ha de reforçar les seves mesures de seguretat per evitar que incidents similars afectin els sistemes de la ciutat sense el coneixement de la ciutat. El retard de dos mesos en la detecció i la notificació de l’incident a la ciutat és inacceptable», va afirmar el PPD a 6abc.

Segons The New York Times, els agents d’Anthropic presumptament també van omplir 20 sol·licituds de visat al lloc web del Departament d’Estat dels Estats Units. Les sol·licituds estaven incompletes i no es van processar, va dir el diari, citant dues fonts amb coneixement dels incidents.

Aquests casos, va afegir Anthropic, es van descobrir després d’una revisió de transcripcions que va començar el juliol de 2026, quan va revelar tres incidents en els quals els seus models van participar en activitats no autoritzades i van violar la seguretat de tres organitzacions durant proves de ciberseguretat.

Aleshores, el mes passat, va divulgar un quart incident que data del gener del 2026 que va involucrar una versió anterior de Claude Opus 4.6, que va vulnerar «tercers després de no poder interrompre la seva tasca».

Anthropic també va afegir que «Tot i que l’impacte d’aquests comportaments va ser mínim i ja havíem desactivat l’accés a Internet en directe per a algunes avaluacions d’alt risc i ciberseguretat, ara hem decidit ampliar-ho per incloure totes les nostres avaluacions internes fins que hàgim confirmat que les nostres mesures de seguretat i monitoratge (descrites a la secció de correcció d’aquesta publicació) detecten de manera fiable comportaments com aquests».

L’últim descobriment ha impulsat el gegant de la IA a llançar una anàlisi més profunda, concretament en entorns on Claude té accés a Internet. A mesura que aquesta investigació continua, Anthropic ha dit que espera trobar nous casos de comportaments no desitjats.

El desenvolupament arriba a conseqüència que les Preocupacions de seguretat de la IA han arribat a un punt àlgid en els darrers mesos, després que es descobrís que agents deshonestos d’OpenAI van sortir d’un entorn de proves i van accedir a Hugging Face el juliol de 2026. Des d’aleshores, han sortit a la llum diversos incidents cibernètics.

A mesura que els proveïdors de models de la IA mostren models cada cop més capaços i potents, les seves pràctiques de seguretat han estat objecte d’un escrutini creixent, cosa que ha provocat advertències a tot el sector sobre els perills que els models superin les barreres de seguretat, crides a una desacceleració del desenvolupament de la IA i la necessitat d’una supervisió addicional.

A principis d’aquesta setmana, l’Oficina del Comissionat d’Informació del Regne Unit (ICO) va dir que 10 dels principals desenvolupadors de models de base, inclosos Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI i Stability AI, han fet o s’han compromès a fer canvis en la seva política de protecció de dades.

Aquests van des d’incloure informació de transparència més clara fins a desplegar mecanismes més forts perquè els usuaris exerceixin els seus drets i dur a terme avaluacions més rigoroses de les garanties.

«La IA té un enorme potencial per beneficiar la nostra societat, però això depèn de la confiança i la transparència», va dir Richard Nevinson, director de Regulació Tecnològica de l’ICO. També va afegir «Però a mesura que els sistemes de la IA funcionin amb més autonomia, les garanties robustes de protecció de dades esdevindran encara més crítiques.»

«El nostre missatge és clar: el fet que els agents de la IA actuïn amb autonomia no és una excusa per a un compliment deficient. Si la gent ha de confiar en la innovació de la IA, espera saber, i amb tota la raó, com es protegeix la seva informació personal.»