Un taller explora no campus a tecnoloxía de intelixencia artificial que alimenta ferramentas como ChatGPT

A Escola Superior de Enxeñaría Informática do campus de Ourense acolleu este venres a celebración do 1st Workshop on LLMs, Minds&Machines: Mechanistic Insight&Neuro-Cognitive Applications. Towards the Misalignment Problem. A iniciativa estivo organizada polo Departamento de Informática e o Laboratorio de Intelixencia Artificial Aplicada da UVigo con financiamento do Instituto de Física e Ciencias Aeroespaciais e a colaboración da Xunta de Galicia, o Cesga, a Fundación Idis e o Instituto de Investigación Sanitaria Galicia Sur. 

Este obradoiro sobre interpretabilidade mecanística para LLMs aliñados en escala, sinala o seu responsable, o profesor da UVigo David Olivieri, propúxose como “un taller innovador” no que reunir especialistas de diferentes disciplinas para afondar nos modelos de linguaxe de gran tamaño (LLMs en inglés), a tecnoloxía de intelixencia artificial (IA) que alimenta ferramentas como ChatGPT e outros sistemas de IA conversacional. “A medida que estes sistemas se volven cada vez máis autónomos e sofisticados, comprender os seus procesos internos de toma de decisións converteuse en algo crucial tanto para o avance tecnolóxico como para a seguridade pública”, comenta David Olivieri.

Segundo explica o profesor da Escola Superior de Enxeñaría Informática, a actividade celebrada este venres uniu múltiples disciplinas para abordar o que en investigación chaman "o problema do desaliñamento”: o reto de garantir que os sistemas de IA persigan obxectivos que realmente se aliñen coas intencións humanas. “Combinando métodos punteiros da neurociencia con técnicas computacionais avanzadas, a investigación pretende comprender como os modelos de IA forman obxectivos internamente, de xeito similar a como os neurocientíficos estudan como o cerebro humano toma decisións”, detalla.

Esta conexión coa neurociencia, engade David Olivieri, ten implicacións importantes para a saúde pública, explorando o persoal investigador os paralelismos entre os patróns de razoamento da IA e os procesos cognitivos humanos e incluíndo posibles patoloxías. O profesor da UVigo sinala ademais que a investigación neste eido tamén empurra os límites da computación de alto rendemento (HPC) moderna, requirindo infraestrutura computacional a escala de petaflops para analizar as masivas representacións internas xeradas por estes sistemas de IA, procesando ata 165 xigabytes de datos nunha soa consulta.

Participación de especialistas e tamén de alumnado

O 1st Workshop on LLMs, Minds&Machines dividiuse en dúas sesións complementarias. Na da mañá realizáronse charlas de investigación de especialistas en neurociencia, seguridade da IA e infraestrutura computacional, incluíndo conferencias sobre a creación de "cerebros con patoloxías mentais in silico", a exploración da converxencia entre a cognición humana e a IA e os retos computacionais da medición do aliñamento en escala. Ademais, unha mesa redonda centrouse en desenvolver unha folla de ruta integrada para medir o aliñamento da IA a través destas disciplinas. A sesión contou coa participación de, ademais de David Olivieri, de Carlos Spuch e César Veiga, do IISGS; de Roberto Agis-Balboa, do Sergas-Idis e de Lois Orosa, do Cesga.

A sesión da tarde conta coa participación práctica de alumnado, presentándose traballos entre os que destacan proxectos de investigación estudantís (como aplicacións en inmunoloxía e experiencias de hackathons europeos de IA), participando Blanca Posada (IISGS) e Alena Repetskaya. Seguiralle unha 'study jam' práctica organizada polo Google Developer Group-Ourense. Durante esta sesión interactiva, os equipos de estudantes aprenderán a construír os seus propios mini-LLMs desde cero e competirán nun reto de programación en directo con táboas de clasificación en tempo real, “ofrecendo unha emocionante oportunidade para que a próxima xeración de investigadores e investigadoras gañe experiencia práctica coa tecnoloxía que está a moldear o noso futuro”.