Diario da Universidade de Vigo
En dúas xornadas, os días 3 e 6 de maio, a través de Campus Remoto ás 16.00 h
Un seminario analizará os nesgos de xénero da intelixencia artificial na administración pública
Decisións sobre certas prestacións sociais ou acceso a fronteiras nacionais xa se apoian na IA
No marco da Cátedra Feminismos 4.0 Depo-UVigo, varias investigadoras e investigadores de Dereito Público e Dereito Privado desenvolveron un proxecto sobre intelixencia artificial e xénero, no que avaliaron as bases éticas e os problemas de nesgo de xénero na elaboración de algoritmos para políticas públicas e procedementos administrativos. Ese estudo constatou unha falta de transparencia sobre a elaboración e acceso a este tipo de innovación tecnolóxica, así como unha falta de diversidade das persoas que elaboran e adestran os algoritmos, derivado coa falta de mulleres en profesións vinculadas coa tecnoloxía e a súa escasa representación no ámbito da programación. Agora, esta investigación vai un paso máis aló a través da organización dun seminario virtual titulado Intelixencia artificial na administración pública en clave de xénero, coordinado pola docente Itziar Sobrino. O programa comprende dúas xornadas, ambas a través de Campus Remoto, que se desenvolverán os día 3 e 6 de maio.
Explica Sobrino que este seminario é unha “oportunidade idónea” para difundir e seguir afondando “nunha problemática tan relevante” como a existencia de nesgos nos algoritmos empregados na administración pública. Explica que “os patróns de diferenza por xénero, raza e unha gama doutros atributos humanos atópanse por todas partes nos sistemas económicos e sociais. No caso da intelixencia artificial, a medida que os algoritmos aprenden dos datos do mundo real tenden a replicar e amplificar esas diferenzas, incorporando dese modo os mesmos nesgos”. Un caso paradigmático, exemplifica, aconteceu coa empresa Amazon, “cuxo sistema de contratación baseado na intelixencia artificial e alimentado con datos históricos de prácticas de contratación, ensinouse a si mesmo a mostrarse nesgado en detrimento dos currículos femininos e confundiu a escaseza de currículos femininos con falta de aptitude”.
Situacións coma estas fixeron que “nos plantexásemos unha serie de dilemas sobre o uso de algoritmos na toma de decisións ou a realización de tarefas mediante políticas públicas ou nos procesos administrativos”. E esta é a temática que se quere achegar tanto ao alumnado da Universidade como aos profesionais do sector a través deste seminario, no que “catro grandes investigadores da área exporán e debaterán” sobre as posibles consecuencias e solucións para evitalo.
A IA na administración pública, aínda nunha fase de implantación temperá
No que se refire á implantación da IA na administración pública, Iztiar Sobrino explica que o seu uso serve para mellorar as políticas públicas e as decisións administrativas e avanzar, en definitiva, cara ao bo goberno e a boa administración. Actualmente, “decisións administrativas sobre determinadas prestacións sociais, acceso ás fronteiras nacionais ou desenvolvemento de certas políticas públicas, entre outras, estanse a apoiar crecentemente na IA”, pero de momento a súa implantación “está nunha etapa moi temperá”, polo que é neste momento cando é preciso abordar os nesgos de xénero. E é que existen investigacións sobre o uso de algoritmos polas administracións públicas que apuntan á necesidade de “elaborar un marco xurídico básico que garanta a protección dos dereitos fundamentais e estableza a auditoría e certificación de estes algoritmos, a transparencia na elaboración dos mesmos, e tamén a creación dun órgano ou comité multidisciplinar mixto e con representación diversa encargado de testar e supervisar este proceso”.
Programa das xornadas
No seminario participarán diferentes autoridades recoñecidas na materia, como Eva María Menéndez, catedrática de Dereito Administrativo da Universidade de Oviedo e Agustí Cerrillo, catedrático de Dereito Administrativo da Universitat Oberta de Catalunya, ambos na xornada do 3 de maio. O día 6, o seminario contará coa presenza de Susana de la Sierra, profesora de Dereito Administrativo da Universidad de Castilla la Mancha e Alba Soriano, doutora en Dereito da Universidade de Valencia.
Ao longo da dúas xornadas abordaranse temas como a identificación dos dilemas éticos na aplicación da intelixencia artificial e debaterase sobre a problemática dende a perspectiva de xénero que se derive da utilización de algoritmos nas políticas públicas e procesos administrativos. As persoas participantes tamén poderán coñecer diferentes casos de aplicación da IA en políticas públicas e recoñecerán as experiencias prácticas nas que se aplicasen algoritmos con nesgo de xénero. A finalidade é colaborar na construción de estratexias e políticas de IA no sector público desde unha perspectiva ética, polo que Sobrino marcouse como meta poder editar unha publicación na que recoller as conclusións e o debate que teña lugar no marco do seminario.