La Wikimedia Foundation ha denunciat que ha trobat proves d’activitat no autoritzada vinculada a agents de la intel·ligència artificial (IA) d’OpenAI a les seves plataformes. Aquesta activitat inclou edicions als seus wikis, intents fallits d’explotar la seva eina pública per prendre notes (Etherpad) i un alt volum de trànsit que «podria haver contribuït» a una caiguda parcial dels seus serveis que va tenir lloc al maig.

L’organització ha assegurat que, després dels incidents registrats durant els últims mesos —amb agents de la IA que mostren comportaments desalineats i accedeixen a llocs web de tercers de manera no autoritzada—, va decidir dur a terme una investigació pròpia per determinar si els llocs web de Wikimedia s’havien vist afectats.

En aquest sentit, s’han centrat específicament en els agents operats per l’empresa dirigida per Sam Altman i, un cop finalitzada la investigació, Wikimedia ha confirmat haver detectat activitat no autoritzada d’aquests agents d’OpenAI a les seves plataformes.

Tal com ha compartit en un comunicat al seu bloc, entre aquestes activitats no autoritzades s’han identificat edicions a wikis de Wikimedia. Tot i això, aquestes edicions no es van publicar en pàgines visibles per al públic general, ja que es van dur a terme en àrees de prova.

Igualment, els agents també van fer algunes modificacions en la configuració d’una eina de cites que, segons han indicat, podrien ser accions malicioses pensades per utilitzar aquesta eina com a intermediari per obtenir dades de serveis remots.

De la mateixa manera, Wikimedia ha matisat que les seves polítiques permeten que els bots editin, però aquestes accions s’han de comunicar i aprovar prèviament per la comunitat. En aquests casos, els agents no van sol·licitar cap aprovació.

Una altra de les activitats no autoritzades detectades en la investigació va ser que els agents d’OpenAI van dur a terme diversos intents fallits de comprometre l’eina pública per prendre notes Etherpad. Segons s’ha explicat, van intentar fer-la servir sense èxit per obtenir dades d’altres llocs web actuant com a intermediaris.

Finalment, Wikimedia ha denunciat que els agents d’OpenAI van fer «milions de sol·licituds automatitzades» a les API públiques amb la intenció d’accedir al coneixement dels projectes de la plataforma.

Així, van rastrejar milions de pàgines —principalment als projectes Wikidata i Wikimedia Commons— i van fer «centenars de milers de consultes» de dades al Servei de Consulta de Wikidata. Com a resultat, la fundació considera que aquest trànsit generat pels models «podria haver contribuït» a la interrupció parcial dels serveis ocorreguda el maig d’enguany.

Els seus sistemes no es van utilitzar per a la coordinació entre agents

Un altre aspecte que ha investigat Wikimedia és si els agents d’OpenAI van fer servir els seus wikis per comunicar-se durant les activitats no autoritzades. Concretament, l’organització s’ha referit a un cas en què agents d’OpenAI van utilitzar wikis públiques per coordinar-se entre si en un fòrum wiki alemany poc conegut amb unes 18.000 publicacions.

Aquesta preocupació existeix perquè aquest tipus d’intrusions reeixides «poden exposar dades confidencials o interrompre els serveis web de què depenen els usuaris», alhora que grups d’agents «poden intentar atacs a una escala difícil de gestionar per als defensors.»

«En un lloc com la Viquipèdia, els agents podrien trobar i explotar vulnerabilitats de seguretat o dur a terme edicions enganyoses a gran escala», ha alertat la fundació, remarcant que els editors voluntaris i els equips de seguretat «han de detectar i revertir aquesta activitat.»

No obstant això, Wikimedia ha assegurat que no s’ha trobat cap evidència que els seus sistemes s’hagin utilitzat per a la coordinació entre agents, i ha negat que els seus sistemes o dades s’hagin vist compromesos.

Malgrat tot, la fundació ha compartit la seva preocupació «pel que podria haver passat», com també per la dificultat i l’esforç que requereix investigar aquestes activitats de la IA a les seves plataformes.

Reptes dels agents en la infraestructura de la Viquipèdia

Com a organització tecnològica que allotja algunes de les plataformes de coneixement obert més grans del món, Wikimedia ha denunciat l’impacte que poden tenir els agents maliciosos de la IA. «La web oberta és un bé públic. No hem de permetre que aquest comportament es converteixi en la nova normalitat per a les persones o organitzacions que la mantenen», ha declarat.

Cal recordar que la Viquipèdia és un dels conjunts de dades «de més qualitat» utilitzats per entrenar models de llenguatge a gran escala (LLM), i el seu coneixement «constitueix la base de la informació a Internet» a través de xatbots, motors de cerca i assistents de veu.

La fundació ha posat de manifest com el creixent trànsit de bots i l’activitat dels agents tenen un impacte real en els projectes i en la infraestructura. Tant és així que, el 2025, el consum d’amplada de banda havia augmentat un 50 % a causa de l’increment de l’activitat de bots des del 2024. Alhora, el 65 % del trànsit que consumeix més recursos prové de bots.

Tot això es tradueix en un increment de costos en servidors i personal, a més de poder ocasionar bloquejos als visitants en sobrecarregar els sistemes.

Per tant, Wikimedia ha assenyalat que, tot i que OpenAI admet que els seus agents es comporten de manera impredictible, «ha de reconèixer la seva responsabilitat de supervisar i prevenir aquests riscos.» «Les empreses de la IA no estan fent prou per protegir els seus sistemes i el públic dels danys que causen», ha conclòs la fundació.