Per a això han desenvolupat SecureLoop, un motor de cerca que identifica un disseny òptim per a un accelerador de xarxa neuronal profunda i que alhora blinda la seguretat de les dades, en millora l’eficiència i n’augmenta el rendiment.

Amb l’aparició d’aplicacions d’aprenentatge automàtic computacionalment intensives, els fabricants de dispositius sovint opten per incorporar components de maquinari especialitzats a moure i processar ràpidament les quantitats enormes de dades que exigeixen aquests sistemes.   En aquest context, triar el disseny més bo per a aquests acceleradors de xarxes neuronals profundes pot suposar tot un desafiament. Una tasca complexa que es torna molt més àrdua quan el dissenyador busca agregar-hi operacions criptogràfiques per mantenir les dades fora de perill de possibles ciberatacants.

Ara, els investigadors del Massachusetts Institute of Technology (MIT) han desenvolupat un motor de cerca que pot identificar de manera eficient dissenys òptims per a acceleradors de xarxes neuronals profundes, que preserven la seguretat de les dades i n’augmenten el rendiment. La seva eina de cerca, batejada amb el nom de SecureLoop, està dissenyada per tenir en compte com la inclusió del xifratge de dades i mesures d’autenticació afectarà el rendiment i l’ús d’energia del xip accelerador. D’aquesta manera, un enginyer podria fer servir aquesta eina per obtenir el disseny òptim d’un accelerador adaptat a la seva xarxa neuronal i a la tasca d’aprenentatge automàtic.

 Seguretat com a valor afegit

En comparació amb les tècniques de programació convencionals que no tenen en compte la seguretat, SecureLoop pot millorar el rendiment dels dissenys dels acceleradors i alhora mantenir les dades protegides. L’ús d’aquest motor podria ajudar un usuari a millorar la velocitat i el rendiment de les aplicacions d’intel·ligència artificial exigents, com ara la conducció autònoma o la classificació d’imatges mèdiques alhora que garanteix que les dades confidencials de l’usuari romanen protegides.

“Si està interessat a fer un càlcul en què necessita preservar la seguretat de les dades, les regles que fèiem servir abans per trobar el disseny òptim ara no es compleixen. Per tant, tota aquesta optimització cal que es personalitzi per a aquest conjunt de restriccions nou i més complicat. I això és el que Kyungmi [l’autor principal] ha aconseguit”, assegura Joel Emer, professor del MIT especialitzat en ciències de computació i enginyeria elèctrica.

Acceleració segura

Una xarxa neuronal profunda consta de moltes capes de nodes interconnectats que processen dades. Normalment, la sortida d’una capa es converteix en l’entrada de la capa següent. Les dades s’agrupen en unitats, anomenades mosaics, per ser processades i transferides entre la memòria fora del xip i l’accelerador. Cada capa de la xarxa neuronal pot tenir la seva configuració de mosaic de dades.

Un accelerador de xarxa neuronal profunda és un processador amb una sèrie d’unitats computacionals que paral·lelitza operacions, com la multiplicació, a cada capa de la xarxa. El cronograma de l’accelerador descriu com es mouen i es processen les dades. Atès que l’espai en un xip accelerador és escàs, la majoria de les dades s’emmagatzemen en una memòria fora del xip i l’accelerador les recupera quan cal. Però les dades s’emmagatzemen fora del xip, i per això són vulnerables a un atacant que podria robar informació o canviar alguns valors, i provocar un mal funcionament de la xarxa neuronal.

Els fabricants poden protegir les dades tot agregant xifratge autenticador a l’accelerador. El xifratge codifica les dades mitjançant una clau secreta. Tot seguit, l’autenticació talla les dades en fragments uniformes i assigna una empremta electrònica criptogràfica a cada fragment de dades, que s’emmagatzema amb el fragment de dades a la memòria fora del xip. Així, quan l’accelerador recupera un fragment de dades xifrades, conegut com a bloc d’autenticació, fa servir una clau secreta per recuperar i verificar les dades originals abans de processar-les.

Tanmateix, les mides dels blocs d’autenticació i els mosaics de dades no coincideixen, per tant, hi podria haver diversos mosaics en un bloc o un mosaic es podria dividir entre dos blocs. L’accelerador no pot prendre arbitràriament una fracció d’un bloc d’autenticació, per la qual cosa pot acabar prenent dades addicionals, cosa que fa servir energia addicional i alenteix el càlcul.  A més a més, l’accelerador encara ha d’executar l’operació criptogràfica a cada bloc d’autenticació, cosa que encara li afegeix un cos computacional addicional. 

 Un cercador eficient

Amb SecureLoop, els investigadors del MIT van buscar un mètode que pogués identificar el programa d’acceleració més ràpid i amb una eficiència energètica més gran, un que minimitzés la quantitat de vegades que el dispositiu necessita accedir a la memòria fora del xip per capturar blocs addicionals de dades a causa del xifratge i l’autenticació.  

Van començar ampliant un motor de cerca existent anomenat Timeloop. Primer, van afegir un model que podria tenir en compte el càlcul addicional necessari per al xifratge i l’autenticació. Després, van reformular el problema de cerca en una expressió matemàtica simple, que li permet a SecureLoop trobar la mida de bloc autèntic ideal d’una manera molt més eficient que cercar entre totes les opcions possibles. Finalment, van incorporar una tècnica heurística que garanteix que SecureLoop identifiqui un cronograma que maximitzi el rendiment de tota la xarxa neuronal profunda, en lloc d’una sola capa. Al final, el motor de cerca genera un programa d’acceleració que inclou l’estratègia d’ordenament en mosaic de dades i la mida dels blocs d’autenticació que proporciona la velocitat i l’eficiència energètica més bones possibles per a una xarxa neuronal específica.

Quan es va provar en un simulador, SecureLoop va identificar cronogrames que eren fins a un 33,2 % més ràpids i van exhibir un producte de retard d’energia un 50,2 % més bo (una mètrica relacionada amb l’eficiència energètica) que altres mètodes que no tenien en compte la seguretat. Els investigadors també van fer servir SecureLoop per explorar com canvia l’espai de disseny dels acceleradors quan es té en compte la seguretat. Van aprendre que en assignar una mica més d’àrea del xip per al motor criptogràfic i sacrificar una mica d’espai per a la memòria al xip es pot assolir un rendiment més bo.

En el futur, els investigadors aspiren a fer servir SecureLoop per trobar dissenys d’acceleradors que siguin resistents als atacs de canal lateral, que succeeixen quan un atacant té accés al maquinari físic. També estan ampliant SecureLoop per tal que es pugui aplicar a altres tipus de computació.