Quatre dòlars és el cost econòmic en tokens que té comprometre la seguretat d’una empresa, extreure’n les dades i extorsionar-la demanant-li milions com a rescat.

Gairebé com la comissió que et cobra un caixer quan treus diners d’un banc que no té cap acord amb el teu. Aquest és el mòdic preu que té perpetrar un atac informàtic de programari de segrest dirigit a una gran empresa o organisme com si fossis un autèntic cibercriminal professional.

La intel·ligència artificial està fent que emprendre aquestes amenaces es democratitzi encara més i sigui assequible per a qualsevol persona que tingui uns quants euros. Així ho demostra la troballa que ha fet el mitjà d’informació especialitzat en ciberseguretat Cybernews.

El seu equip de recerca ha trobat una infraestructura que permetia dur a terme una operació completa de programari de segrest per molt poc. Aquesta hostatjava càrregues útils malicioses, eines d’explotació internes, un sistema d’IA i tots els buidatges de dades que cobrien tot el cicle de vida de l’atac, des de l’accés inicial fins a les demandes de rescat.

A finals de juliol, el seu equip de recerca va descobrir un servidor exposat que contenia una quantitat ingent de dades: ni més ni menys que 3,1 TB robats a més de 30 empreses. Aquestes empreses pertanyien als sectors de màrqueting, sanitat, consultoria, compliment normatiu, béns immobles, desenvolupament de programari, telecomunicacions, manufactura i transport.

Aquest servidor pertanyia a la coneguda banda de programari de segrest The Gentlemen, nascuda el juliol de l’any passat i una de les més actives del moment. Es calcula que han dut a terme atacs a 700 víctimes fins ara.

Més enllà dels detalls tècnics, el més destacat d’aquest descobriment és com el grup d’extorsió basava la seva activitat maliciosa gairebé completament en l’automatització mitjançant intel·ligència artificial, amb una mínima supervisió humana. 

«La majoria dels atacs comencen amb indicacions de la intel·ligència artificial. L’atacant simplement proporciona a l’agent de la IA l’URL de GitLab, el nom d’usuari i la contrasenya, probablement obtinguts dels registres de robatori de dades o comprats a intermediaris d’accés inicial», ha explicat Aras Nazarovas, investigador de seguretat de Cybernews, que va descobrir el servidor amb la fuga de dades.

«L’agent de la IA ajusta i modifica els scripts d’explotació en funció de l’entorn de cada víctima», ha afegit l’expert. 

Per un grapat d’euros

Els registres mostren el cost absurdament baix de tota l’operació. Un únic atac surt entre 0,40 i 4 dòlars en tokens per víctima, sense comptabilitzar els costos de la infraestructura de suport. 

La clau és que l’agent Hermes pot comprometre i extorsionar simultàniament múltiples objectius i es fa servir en totes les fases de l’atac, inclosa la determinació de les demandes de rescat. Això fa que pugui ser tan barat per als ‘afiliats’. 

Però, com és possible que un grup de programari de segrest demani a un assistent de la IA que pirategi una empresa i aquesta executi la tasca maliciosa sense dir ni piu?

The Gentlemen fa servir un truc per enganyar el LLM i que aquest compleixi les seves peticions. El que fa és incloure en l’indicador (prompt) que es tracta d’un repte de ciberseguretat «Capture The Flag» (CTF), inspirat en Alícia al País de les Meravelles. És a dir, l’agent de la IA és enganyat perquè cregui que està resolent desafiaments de ciberseguretat en lloc de comprometre víctimes reals.

Nazarovas també indica que: «Vam trobar fitxers font d’un desafiament CTF de codi obert implementat per un agent de la IA, com també scripts que suggereixen que va ser resolt per un agent de la IA. El desafiament CTF va ser clonat d’un dipòsit públic de GitHub i va ser dissenyat originalment per posar a prova les habilitats dels professionals de la seguretat en l’explotació de vulnerabilitats.»

Les troballes van ser comunicades de manera responsable al CERT i a la policia de Lituània abans de la seva publicació, i les autoritats van compartir la informació amb socis internacionals.