La Unió Europea, pocs minuts abans que s’acabés aquest divendres, després de més de trenta-cinc hores de negociació, ha aconseguit tancar un acord històric per fixar les primeres regles per limitar els riscos de la intel·ligència artificial (IA) que previsiblement podrà entrar en vigor a partir del 2026.

«Hem aconseguit la primera regulació internacional d’intel·ligència artificial del món, n’estem molt orgullosos», ha celebrat la secretària d’estat de Digitalització i Intel·ligència Artificial, Carme Artigas, que s’ha desplaçat a Brussel·les aquests dies per liderar l’equip negociador del Consell, en el marc de la presidència de torn espanyola.

Els negociadors del Parlament Europeu, de la Comissió Europea i del Consell (governs) van iniciar dimecres la que havia de ser l’última ronda de negociació per assolir un acord que finalment no ha arribat fins a darrera hora de divendres, després de superar els darrers esculls respecte a la vigilància biomètrica i el seu ús per part de les forces de seguretat.

La norma té un enfocament basat en el risc que categoritza els nivells de risc i les restriccions que hi ha d’haver en funció de l’escala, cosa que implica la prohibició en els casos de risc «inassumible», com els sistemes de categorització biomètrica, l’extracció no dirigida d’imatges per crear bases de dades de reconeixement facial, el reconeixement d’emocions, els sistemes de puntuació social o els sistemes que manipulen el comportament.

Amb tot, es preveuen una sèrie d’excepcions estrictes que permetran l’ús de vigilància biomètrica en espais públics, sempre que hi hagi ordre judicial prèvia i per a una llista de delictes estrictament definits.

D’aquesta manera, la supervisió biomètrica en temps real es limitarà en temps i ubicació, i només per cercar de manera selectiva víctimes de segrest, tràfic o explotació sexual, per evitar una amenaça terrorista específica i present, i per localitzar o identificar un sospitós d’haver comès un delicte dels recollits a la norma.

El Parlament Europeu va arribar amb una llista llarga d’usos prohibits, però el Consell va pressionar perquè no es vetessin d’entrada alguns dels sistemes assenyalats, sinó que es cataloguessin com d’alt risc i se n’ajustessin les restriccions. Artigas ha defensat que aquest canvi «no suposa que es podrà fer el que es vulgui», perquè la categoria d’alt risc també va acompanyada d’estrictes salvaguardes, com la precondició que cal una autorització judicial per fer-ne ús o que ha de disposar d’avaluacions d’impacte en els drets fonamentals.

També s’hi defineixen els sistemes d’IA autoritzats però considerats de molt alt risc pel gran impacte en la salut, la seguretat, els drets fonamentals, el medi ambient i l’estat de dret.

Els sistemes d’intel·ligència artificial emprats per influir en el resultat de les eleccions i en el comportament dels votants també es classifiquen com d’alt risc, i els ciutadans tindran dret a presentar queixes i a rebre explicacions sobre decisions basades en sistemes d’IA d’alt risc que afectin els seus drets.

Una altra de les claus ha sigut com introduir regles específiques per als models fundacionals, com les plataformes ChatGPT o DALL-E, que van sortir després que la Comissió Europea presentés la primera proposta de regulació, per la qual cosa aquest capítol s’ha anat desenvolupant en el transcurs de la negociació.

La legislació pionera també preveu sancions per als que incompleixin la norma. Aquestes aniran des dels 35 milions d’euros, o el 7 % del volum de negoci global, fins als 7,5 milions d’euros, en funció de la grandària de la companyia.

L’objectiu de la nova regulació europea és fixar estàndards de seguretat i de drets fonamentals que evitin que la tecnologia es faci servir amb finalitats repressives, de manipulació o discriminatòries; però sense que es tradueixi en una hiperregulació que perjudiqui la competitivitat de la Unió Europea.

ACORD HISTÒRIC

La presidenta del Parlament Europeu, Roberta Metsola, ha reaccionat a les xarxes socials immediatament per celebrar el «moment històric», perquè la UE disposarà d’una legislació «capdavantera, responsable, integral i que marcarà estàndards globals».

La cap de l’executiu comunitari, Ursula von der Leyen, ha destacat que es tracta d’un marc legal que permetrà «el desenvolupament d’una intel·ligència artificial en la qual es pot confiar».

«Acord!», ha escrit a les xarxes socials el comissari d’Indústria i Serveis Digitals, el liberal francès Thierry Breton, juntament amb un gràfic per destacar que la Unió Europea és l’única regió del món que té una regulació. Després de l’acord polític aconseguit aquest divendres, la nova normativa necessita encara l’adopció formal per part del Consell i del Ple del Parlament Europeu per ser llei.

«Ho hem aconseguit!», ha celebrat, per la seva banda, la vicepresidenta de la Comissió Europea encarregada de l’estat de dret, Vera Jourová, que, recordant el resultat d’una prova que va fer dies enrere amb ChatGPT, ha celebrat que la nova Llei d’intel·ligència artificial sigui «el porter a la festa de la innovació que només deixa passar les IA més genials, segures i responsables».