ChatGPT és un LLM desenvolupat per OpenAI i llançat al públic el novembre del 2022.

En resposta a la creixent atenció pública prestada a ChatGPT, el Laboratori d’Innovació d’Europol va organitzar una sèrie de tallers amb experts en la matèria per tal d’explorar com els delinqüents poden abusar dels models de llenguatge extens (LLM) com ChatGPT, així com també com pot ajudar als investigadors en el seu treball diari.

Les seves idees es recopilen al primer informe Tech Watch Flaix d’Europol titulat “ChatGPT: l’impacte dels models de llenguatge extens en l’aplicació de la llei”, aquest document proporciona una descripció general del possible ús indegut de ChatGPT i ofereix una perspectiva del que encara ha d’arribar.

L’objectiu d’aquest informe és generar consciència sobre el possible ús indegut dels LLM, obrir un diàleg amb les empreses d’intel·ligència artificial (IA) per a ajudar-les a promoure el desenvolupament de sistemes de IA segurs i de confiança.

Què són els models de llenguatge gran?

Un model de llenguatge gran és un tipus de sistema de IA que pot processar, manipular i generar text.

Capacitar a un LLM implica alimentar-ho amb grans quantitats de dades, com ara llibres, articles i llocs web, perquè pugui aprendre els patrons i les connexions entre les paraules per generar contingut nou.

El model actual d’accés públic subjacent a ChatGPT és capaç de processar i generar text similar a l’humà en resposta a les indicacions de l’usuari. Específicament, el model pot respondre preguntes sobre una varietat de temes, traduir text, participar en intercanvis conversacionals («xatejar»), generar contingut nou i produir codi funcional.

El costat fosc dels models de llenguatge gran

A mesura que es milloren activament les capacitats de LLM com ChatGPT, la possible explotació d’aquesta mena de sistemes d’intel·ligència artificial per part dels delinqüents ofereix una perspectiva ombrívola.

Les següents tres àrees de delinqüència es troben entre les moltes àrees de preocupació identificades pels experts d’Europol:

• Frau i enginyeria social: la capacitat de ChatGPT per a redactar textos molt realistes ho converteix en una eina útil per a fins de phishing. La capacitat dels LLM per a reproduir patrons de llenguatge es pot utilitzar per a suplantar l’estil de parla d’individus o grups específics. Es pot abusar d’aquesta capacitat a gran escala per a enganyar les possibles víctimes perquè dipositin la seva confiança en mans dels delinqüents.
• Desinformació: ChatGPT sobresurt en la producció de text amb so autèntic a gran velocitat i escala. Això fa que el model sigui ideal per a propòsits de propaganda i desinformació, ja que permet als usuaris generar i difondre missatges que reflecteixin una narrativa específica amb relativament poc esforç.
• Ciberdelinqüència: a més de generar un llenguatge similar a l’humà, ChatGPT és capaç de produir codi en diversos llenguatges de programació diferents. Per a un delinqüent potencial amb pocs coneixements tècnics, aquest és un recurs inavaluable per a produir codi maliciós.

A mesura que avança la tecnologia i es disposa de nous models, serà cada vegada més important que les forces de l’ordre públic es mantinguin a l’avantguarda d’aquests desenvolupaments per anticipar i prevenir l’abús.