DUVI

Diario da Universidade de Vigo

Incluído nos Proyectos Estratégicos de Ciberseguridad en España 

Privacidade e seguridade centran a colaboración de atlanTTic e Incibe no proxecto Truffles

Fernando Pérez e Rebeca Díaz lideran a participación da UVigo

Etiquetas
  • Entidades Colaboradoras
  • Estudantes
  • Medios
  • PDI
  • Público externo
  • Vigo
  • HRS4R
  • Investigación
  • Investigación
DUVI 02/08/2024

Os grupos de Procesado de Sinal en Comunicacións (GPSC) e Information & Computing Lab (I&CLAB) do Centro de Investigación en Tecnoloxías de Telecomunicación da Universidade de Vigo, atlanTTic, participan xunto ao Instituto Nacional de Ciberseguridad (Incibe) no proxecto Truffles (TRUsted Framework for Federated LEarning Systems), co obxectivo de deseñar e incorporar novos mecanismos e tecnoloxías que reforcen e incrementen a seguridade e a privacidade en contornas de aprendizaxe federada, creada como unha solución a este problema, ao adestrar os propietarios de datos os seus algoritmos localmente, poñéndoos en común cos demais para producir un algoritmo que se beneficie da aprendizaxe cos datos respectivos. 

“Pódese pensar que este procedemento garante a privacidade, xa que ao fin e ao cabo os datos non chegan a saír do ámbito dos seus propietarios, pero tense demostrado a través de ataques prácticos que, a partir do algoritmo común, segue sendo posible extraer información sobre os datos empregados para adestrar localmente”, sinalan os docentes e investigadores da Escola de Enxeñaría de Telecomunicación e directores dos grupos GPSC e I&CLAB, Fernando Pérez e Rebeca Díaz, respectivamente. Os algoritmos baseados en Intelixencia Artificial (IA) necesitan enormes cantidades de datos para o seu adestramento e en moitas situacións prácticas os propietarios dos datos non dispoñen dunha cantidade suficiente como para que a aprendizaxe do algoritmo sexa efectiva. Unha solución sería compartir os datos con outros propietarios, de modo que todos se beneficien da colaboración, pero isto implica a miúdo infrinxir as normativas de protección de datos, cada vez máis garantistas cos dereitos dos individuos, tal e como indican os responsables de Truffles.

O proxecto é parte dun convenio asinado entre Incibe e a UVigo, incluído nos Proyectos Estratégicos de Ciberseguridad en España, no marco do Plan de Recuperación, Transformación e Resiliencia do Ministerio para a Transformación Digital, co financiamento dos Fondos Next Generation-EU da Unión Europea.  

Solucións baseadas na privacidade dos datos

Truffles ten varias liñas de actuación entre as que destacan a identificación de ameazas realistas nun ámbito de aprendizaxe federada e a concepción de métodos para medir a privacidade que cuantifiquen a información privada que poden obter os atacantes como instrumento para coñecer as limitacións das solucións existentes. 

Por outro lado, tentarase proporcionar solucións que permitan mitigar ou eliminar as fugas de privacidade. “Estanse desenvolvendo métodos de compartición e combinación de algoritmos protexidos mediante claves, métodos para o uso de tecnoloxías de cadea de bloques para poder trazar os procesos descentralizados de aprendizaxe e métodos para aumentar a robustez da aprendizaxe federada a fallos inesperados nas comunicacións ou fronte a sistemas onde a compartición de modelos se realice en situación de mobilidade, onde non é posible garantir que o conxunto de propietarios de datos estea sempre dispoñible e conectado”, explican os investigadores de atlanTTic que participan no proxecto. 

Truffles pretende ademais implementar un prototipo para demostrar a utilidade das técnicas desenvolvidas nun escenario real, para o que se porá o foco nun caso de uso no sector bancario, onde a privacidade é un requisito esencial, máis en concreto na detección de transaccións fraudulentas.

Divulgación e sensibilización en ciberseguridade

Entre as actividades contempladas no marco do proxecto destacan diversas accións de divulgación para o público xeral como píldoras audiovisuais, que servirán como ferramenta para a difusión de coñecemento achegando conceptos relacionados coa ciberseguridade a persoas non especializadas neste ámbito. Ademais da vertente divulgativa, buscarase sensibilizar e concienciar á sociedade da importancia da privacidade e seguridade en Internet. 

Truffles contempla ademais actividades orientadas a público máis especializado, como seminarios e workshops de seguridade e privacidade en aprendizaxe federada para centros tecnolóxicos e empresas, como os que se integrarán no IV Encontro CIBER.gal  do nodo galego de Ciberseguridade, que se celebrará en novembro deste ano. Tamén se inclúe a organización dun evento internacional dirixido a investigadores e investigadoras do sector, o 12th ACM Workshop on Information Hiding and Multimedia Security (IH&MMSec’24), celebrado o pasado mes de xuño en Baiona. Realizaranse ademais retos orientados a estudantado universitario no ámbito da privacidade.

Proxectos estratéxicos de Incibe

Os Proyectos Estratégicos de Ciberseguridad en España, que se engloban no Programa Global de Innovación en Seguridad, son unha forma de achegar solucións concretas a algúns dos maiores desafíos científicos e tecnolóxicos da  sociedade e a economía. Están destinados a impulsar a aplicación dos resultados da investigación ea innovación, combinando novas formas de gobernanza e colaboración, así como involucrando á cidadanía e ao tecido produtivo e social.