Segons dades ofertes pel Fòrum Econòmic Mundial, aquest tipus d’engany de l’àmbit digital amenaça tant els drets dels individus com els de les organitzacions i s’assenyala que creix a un ritme del 900% a l’any.

L’irrefrenable avanç de la intel·ligència artificial (IA) i el seu desenvolupament ràpid i exponencial brinda beneficis evidents per la societat en conjunt; no obstant això, també genera importants amenaces. Aquestes poden desembocar fàcilment en atemptats contra els drets dels individus o organitzacions, alguna cosa que ja ha ocorregut amb el denominat deepfake. Es tracta d’un fenomen que provoca diferents tipus de fraus i manipulacions contra persones o entitats i que creix a un ritme anual del 900%, segons dades del Fòrum Econòmic Mundial.

L’impacte dels deepfakes pot ser més difús que la resta dels atacs ja coneguts, afectant principalment la reputació i la confiança en una empresa. En alguns casos, poden propiciar fraus, suplantació d’identitat, manipulació comercial, difamació d’empleats o enganys a través de videotrucades, entre altres. Els especialistes i experts en ciberseguretat s’han posat per feina per frenar el seu recorregut que, en cas de continuar desenvolupant-se a aquest ritme, podria acabar aconseguint als atacs més habituals que creixen a una velocitat del 59% interanual.

En aquest sentit, Innovery destaca sis punts en els quals és possible ajudar a les companyies afectades per fraus d’aquest tipus.

• Desenvolupar intel·ligència artificial dissenyada per la seva detecció. L’experiència en matèria d’aprenentatge automàtic (ML, per les seves sigles en anglès) i IA permeten el desenvolupament d’algorismes avançats, capaços de detectar deepfakes amb alta precisió. Poden fins i tot analitzar vídeos i àudios, a la recerca d’anomalies subtils que indiquin una manipulació.
• Avançar en solucions de ciberseguretat que integrin la detecció de deepfakes, com una de les seves característiques fonamentals. Això seria particularment útil per protegir les empreses d’aquesta mena de frau, evitant a les companyies caure en un parany que, a vegades, els pot portar a l’extinció.
• Autenticar els continguts multimèdia. Desenvolupar sistemes que permetin a les empreses verificar el contingut multimèdia publicat o compartit. Això pot incloure tecnologies de marques d’aigua digitals o blockchain per a garantir la integritat del contingut.
• Realitzar simulacions. Gràcies a l’ús de la IA és possible crear simulacions d’atacs basats en deepfake amb el propòsit de capacitar als treballadors que conformen l’empresa en la seva detecció i resposta. La formació resulta crucial.
• Desenvolupar eines d’avaluació de riscos capaços d’ajudar a estimar el nivell de vulnerabilitat de les companyies i organitzacions davant aquesta mena d’atacs i oferir recomanacions de seguretat.
• Introduir anàlisi forense. En cas que es produeixi un incident relacionat amb deepfake és possible oferir serveis d’anàlisis forenses per ajudar a entendre com es va produir el frau i com protegir-se de cara al futur.

Europa pren la davantera

Experts en la matèria i analistes del sector tecnològic aventuren que aquesta modalitat d’atac es mantindrà durant els pròxims anys. De fet, algunes veus de la indústria ja prediuen que al 2026 pràcticament el 90% del contingut en línia serà generat artificialment, portant a una deterioració de la confiança i un augment de l’amenaça per les empreses. Precisament per aquest motiu, la Unió Europea va votar recentment a favor d’una Llei d’intel·ligència artificial a l’Eurozona que reguli el desenvolupament d’aquest avanç tecnològic que està agitant l’actualitat de tots els països occidentals, impactant directament als drets i llibertats de tots els ciutadans.