Notas de prensa

A UDC analiza os nesgos de xénero e discriminación na intelixencia artificial

Ao longo da xornada abordáronse cuestións relacionadas coa reprodución de prexuízos nos algoritmos, o impacto da IA na saúde mental, a detección do discurso de odio e do machismo nas redes sociais, os modelos tecnolóxicos alternativos baseados nos coidados e os riscos de discriminación asociados ao uso destas ferramentas en sectores como o asegurador.

Na súa intervención, o reitor advertiu de que a intelixencia artificial non é unha tecnoloxía neutral nin allea ás desigualdades existentes na sociedade. Segundo explicou, “os sistemas de IA aprenden a partir de datos xerados por persoas e institucións, polo que tenden a reproducir e amplificar os nesgos presentes nesa información”. Neste sentido, Ricardo Cao lembrou exemplos coñecidos nos que algoritmos empregados en procesos de selección de persoal, concesión de créditos ou recoñecemento facial acabaron xerando resultados discriminatorios ao replicar patróns históricos de desigualdade.

O reitor subliñou tamén que a solución a este problema “non pode limitarse ao desenvolvemento técnico dos sistemas, senón que require unha cidadanía crítica e formada no uso destas ferramentas”. Defendeu a necesidade de impulsar a alfabetización dixital, promover equipos de desenvolvemento máis diversos e aplicar mecanismos de supervisión e auditoría que permitan construír unha intelixencia artificial máis xusta e inclusiva. “A IA é un apoio extraordinario, pero o criterio e a responsabilidade final deben seguir sendo humanos”, concluíu.

A catedrática de Psicoloxía Experimental da Universidade de Deusto Helena Matute centrou a súa intervención na capacidade da intelixencia artificial para herdar os nesgos das persoas e, ao mesmo tempo, transmitilos a outras persoas a través das decisións automatizadas. Segundo explicou, estes mecanismos poden amplificar prexuízos xa existentes e influír de múltiples formas nos procesos de toma de decisións, polo que resulta fundamental coñecer como se producen para poder combatelos.

Pola súa banda, Eurídice Cabañes propuxo unha reflexión crítica sobre os fundamentos ideolóxicos e económicos sobre os que se desenvolven os actuais modelos de IA. A investigadora cuestionou os enfoques patriarcais, extractivistas e coloniais que, ao seu xuízo, sustentan gran parte do ecosistema tecnolóxico contemporáneo e defendeu a necesidade de avanzar cara a “tecnoloxías da vida”, deseñadas desde os contextos locais, orientadas aos coidados e baseadas na reciprocidade, a rexeneración e o beneficio común.

A investigadora e docente da Universitat Pompeu Fabra Ana Freire abordou o potencial da intelixencia artificial para detectar e comprender problemas relacionados coa saúde mental a través da análise de contidos en redes sociais. A partir dun estudo sobre a identificación de sinais de anorexia nerviosa, mostrou como os nesgos poden introducirse nos datos, na súa representación ou mesmo no deseño dos modelos, e advertiu de que incrementar o volume de información non garante necesariamente sistemas máis xustos se determinados colectivos continúan infrarrepresentados.

A profesora da Universidade da Coruña Lucía Álvarez presentou os avances realizados para desenvolver ferramentas capaces de detectar o machismo directamente en galego. A investigadora destacou a importancia de dispoñer de recursos tecnolóxicos propios para linguas minorizadas, evitando a necesidade de traducir previamente os contidos e conservando matices fundamentais vinculados ás marcas gramaticais de xénero. O traballo realizado demostra, segundo sinalou, que o galego tamén pode contar con tecnoloxía específica e precisa para combater o acoso contra as mulleres nas redes sociais.

A continuación, Paloma Piot, investigadora do CITIC, analizou os nesgos demográficos presentes nos sistemas de detección e clasificación do discurso de odio. A súa intervención centrouse en como a adopción de diferentes perfís demográficos pode influír na identificación deste tipo de contidos e en como determinadas técnicas de intelixencia artificial poden contribuír a reducir as discriminacións que se producen nos procesos de clasificación automatizada.

Pechou a xornada Rafael Colina, quen examinou a crecente presenza da intelixencia artificial no sector asegurador. O experto advertiu de que a personalización dos contratos mediante sistemas intelixentes pode derivar en diferenzas de trato entre clientes que non estean xustificadas por criterios obxectivos. Ademais, alertou de que estes mecanismos non só poden reforzar discriminacións preexistentes, senón tamén ocultalas, xa que adoitan resultar difíciles de detectar debido á complexidade dos algoritmos empregados.

A xornada puxo de manifesto a necesidade de situar a ética, a igualdade e a responsabilidade social no centro do desenvolvemento tecnolóxico, favorecendo unha intelixencia artificial que contribúa á inclusión e ao benestar da cidadanía.