La popularitat de les plataformes de les IA les ha convertit en objectiu per als ciberdelinqüents. De fet, ja s’han detectat campanyes que aprofiten les respostes de la IA per distribuir codi maliciós (malware) mitjançant pàgines aparentment fiables.

Una investigació ha detectat que ciberdelinqüents han aconseguit posicionar webs falsos amb enllaços maliciosos. Un dels casos més recents afecta el ChatGPT, on han aconseguit utilitzar la funció de compartir contingut per mostrar pàgines fraudulentes que simulen incidències tècniques del servei.

L’objectiu final consisteix a convèncer les víctimes perquè descarreguin programes infectats que es fan passar per aplicacions oficials.

Una campanya que fa servir dominis legítims

L’operació, batejada com a LLMShare pels investigadors que la van descobrir, destaca per una característica especialment preocupant: gran part de l’engany es desenvolupa dins de dominis legítims associats a OpenAI.

Els atacants promocionen anuncis patrocinats a cercadors adreçats a persones que busquen accedir a ChatGPT.

Quan l’usuari fa clic en aquests enllaços, no és enviat directament a una pàgina fraudulenta tradicional, sinó a un URL real de ChatGPT generat mitjançant les funcions de compartició de contingut de la plataforma.

Aquest detall augmenta considerablement la credibilitat de l’atac, atès que molts usuaris associen la presència d’un domini oficial amb més seguretat.

El fals avís d’interrupció del servei

Un cop dins de la pàgina compartida, el visitant troba un suposat missatge d’incidència que informa de problemes de disponibilitat a la versió web de ChatGPT.

L’alerta indica que el servei està experimentant una càrrega de trànsit elevada i recomana descarregar una aplicació d’escriptori per continuar fent servir l’eina sense interrupcions.

A primera vista, el missatge pot semblar legítim, especialment perquè es mostra des d’una adreça vinculada a la pròpia plataforma.

Tot i això, el suposat avís no forma part d’OpenAI. És una pàgina dissenyada mitjançant HTML i CSS personalitzats que els delinqüents han aconseguit renderitzar utilitzant les capacitats de presentació de contingut de ChatGPT.

Els investigadors van comprovar que el fals missatge conserva elements característics de les pàgines compartides de la plataforma, incloent-hi controls que permeten visualitzar el codi generat o modificar-ne el contingut mitjançant noves instruccions.

Descàrregues que condueixen al codi maliciós (malware)

El risc veritable apareix quan la víctima prem el botó de descàrrega inclòs en la pàgina fraudulenta.

En aquest moment és redirigida a un portal que imita l’aparença del web oficial de descàrregues de l’OpenAI.

Allà s’ofereixen suposades versions de ChatGPT per a Windows i macOS que en realitat contenen programari maliciós.

Els experts van observar tècniques avançades d’ocultació. Quan determinades eines d’anàlisi o plataformes de seguretat intentaven inspeccionar la pàgina, aquesta mostrava contingut completament diferent per evitar ser identificada com una amenaça.

Aquest comportament, conegut com a cloaking, és habitual en campanyes sofisticades i dificulta notablement el treball de detecció per part dels investigadors i els proveïdors de seguretat.

Comprovacions per evitar entorns d’anàlisi

Les mostres analitzades en sistemes Windows van mostrar comportaments compatibles amb codi maliciós dissenyat per verificar si s’està executant en un ordinador real o dins d’una màquina virtual utilitzada per analistes.

Aquest tipus de comprovacions permet que els atacants amaguin les seves accions quan detecten que són observats.

D’aquesta manera, aconsegueixen reduir les probabilitats que les solucions de seguretat identifiquin ràpidament les capacitats reals de l’amenaça.

Tot i que els investigadors no van poder determinar amb total certesa la càrrega maliciosa final distribuïda en tots els casos, anteriorment s’han fet servir campanyes similars per instal·lar lladres d’informació, eines d’accés remot i altres programes destinats al robatori de credencials.

Les plataformes d’IA es converteixen en un nou vector d’atac

L’incident és una mostra més de com els delinqüents estan adaptant ràpidament les tècniques al creixement de la intel·ligència artificial generativa.

Compte, no és un problema exclusiu del ChatGPT. Investigacions recents també han identificat abusos similars a altres plataformes d’IA que permeten compartir aplicacions, instruccions o contingut interactiu.