Notas de prensa

Podio internacional para a IA explicable do CiTIUS

Trátase dunha rama da IA que propón e deseña modelos intelixentes inspirados na natureza —singularmente na bioloxía e na linguaxe humana—, e entre os que figuran, por exemplo, as redes de neuronas artificiais, a computación evolutiva ou a lóxica difusa.

O equipo galardoado, composto por José María Alonso, Pablo Miguel Pérez, Alejandro Catalá e Alberto Bugarín, presentou o proxecto MAI-XAI-CiTIUS-USC que aborda un dos maiores retos actuais na IA: como xerar explicacións precisas e libres de erros, que sexan comprensibles para as persoas. Neste sentido, un dos principais desafíos é evitar as chamadas “alucinacións” dos modelos de IA xerativa, un fenómeno no que as respostas xeradas parecen fiables pero conteñen información incorrecta ou inventada. O seu proxecto combina a potencia dos modelos de linguaxe con sistemas baseados en lóxica difusa, unha técnica da IA que permite ás máquinas manexar conceptos lingüísticos imprecisos como “alto”, “baixo” ou “aproximadamente”, imprescindibles na comunicación humana.

A través de regras lóxicas, tales como 'Se se observa algo moi semellante a A, entón podemos predicir que ocorrerá algo moi semellante a B', estes sistemas transforman a subxectividade inherente á linguaxe humana en valores numéricos concretos, o que outorga aos modelos a capacidade de razoamento aproximado (ou de sentido común) e de manexo da imprecisión da linguaxe humana, mellorando a súa capacidade para entender e responder ás persoas dunha forma natural e eficaz. Ademais, a arquitectura proposta incorpora ferramentas para recuperar información relevante de grandes bases de datos e adaptar as respostas ao contexto específico de cada usuario.

Un éxito vinculado ao proxecto XAI4SOC

O traballo premiado enmárcase no proxecto de investigación XAI4SOC (Intelixencia Artificial Explicable para o Envellecemento Saudable e o Benestar Social), que desenvolve ferramentas avanzadas de IA centradas nas persoas, con aplicacións en poboacións vulnerables (como persoas maiores en risco de demencia e adolescentes). XAI4SOC busca crear algoritmos explicables que empoderen as persoas usuarias e fomenten o seu benestar físico, mental e social.

A solución presentada combina LLMs con lóxica difusa, e grazas a un deseño modular facilita a súa adaptación a diferentes contextos, converténdose nunha ferramenta útil en sectores importantes que demandan explicacións claras e fiables baseadas en IA, como a saúde ou a educación.

Recoñecemento global ao talento galego

Nas avaliacións realizadas durante a competición, o proxecto destacou pola súa capacidade para reducir significativamente os erros nas respostas xeradas polos modelos, ao tempo que producía explicacións compactas e fáciles de entender, evitando as longas narrativas que a miúdo complican a interpretación dos sistemas de IA xerativa. Ademais, os resultados demostraron un alto nivel de precisión nas respostas, equiparable ou superior ao doutras solucións propostas.

A competición IEEE FLAME Technical Challenge, cuxo nome completo é Fusing Large lAnguage Models with computational intElligence (‘Fusionando modelos de linguaxe de gran tamaño con intelixencia computacional’), atraeu nesta edición propostas de todo o mundo, das cales só seis acadaron a final tras un rigoroso proceso de selección. O traballo do equipo do CiTIUS subliña a excelencia da investigación realizada en Galicia e reforza a proxección internacional do centro. Este recoñecemento tamén pon de manifesto a importancia de combinar a experiencia de investigadores consolidados co talento emerxente de novos investigadores como Pablo Miguel Pérez, graduado en enxeñaría informática e estudante do Máster en IA na USC, que contribuiu activamente ao proxecto grazas á súa participación no proxecto XAI4SOC.

O proxecto busca revolucionar o uso de modelos de linguaxe en contextos críticos onde a explicabilidade e a confiabilidade son esenciais, como a toma de decisións no ámbito da saúde, a educación, a avaliación de riscos no sector financeiro ou a análise de datos legais en procesos xudiciais, entre outros.