A Universidade da Coruña celebrou o pasado 2 de outubro a cuarta edición das Xornadas de IA e Sesgos de Xénero: oportunidades para a igualdade. O encontro, organizado por Laura Morán e Teresa Piñeiro, investigadoras do CITIC da UDC, reuniu a especialistas para reflexionar sobre os sesgos de xénero, sociais e discriminatorios presentes nos sistemas de intelixencia artificial (IA) e os retos éticos e tecnolóxicos que xorden do seu desenvolvemento.
Durante a xornada abordáronse cuestións como a reprodución de prexuízos nos algoritmos, o impacto da IA na saúde mental, a detección do discurso de odio e do machismo nas redes sociais, modelos tecnolóxicos alternativos baseados nos coidados e os riscos de discriminación no sector asegurador.
O reitor da UDC advertiu que a intelixencia artificial non é neutral e tende a reproducir e amplificar os sesgos sociais existentes. Recordou exemplos de algoritmos discriminatorios en selección de persoal, concesión de créditos ou recoñecemento facial. Subliñou que a solución require non só desenvolvemento técnico, senón tamén cidadanía crítica, alfabetización dixital, equipos de desenvolvemento diversos e mecanismos de supervisión. "A IA é un apoio extraordinario, pero o criterio e a responsabilidade final deben seguir sendo humanos", concluíu.
Helena Matute, catedrática de Psicoloxía Experimental da Universidade de Deusto, centrou a súa intervención na capacidade da IA para herdar e transmitir sesgos, amplificando prexuízos e influíndo na toma de decisións. Eurídice Cabañes propuxo unha reflexión crítica sobre os fundamentos ideolóxicos e económicos da IA, cuestionando enfoques patriarcais e defendendo "tecnoloxías da vida" orientadas aos coidados e ao beneficio común.
Ana Freire, investigadora da Universitat Pompeu Fabra, expuxo o potencial da IA para detectar problemas de saúde mental a través da análise de redes sociais, alertando de que o volume de datos non garante sistemas máis xustos se hai colectivos infrarrepresentados. Lucía Álvarez, da UDC, presentou avances en ferramentas para detectar o machismo en galego, destacando a importancia de recursos tecnolóxicos propios para linguas minorizadas.
Paloma Piot, investigadora do CITIC, analizou os sesgos demográficos na detección do discurso de odio e como a IA pode reducir discriminacións na clasificación automatizada. Rafael Colina alertou sobre os riscos de discriminación no sector asegurador debido á personalización de contratos con sistemas intelixentes, que poden ocultar prexuízos pola complexidade dos algoritmos.
A participación do CITIC da UDC nestas xornadas subliña a súa implicación na análise dos retos sociais da IA, promovendo a ética, a igualdade e a responsabilidade social no desenvolvemento tecnolóxico para unha IA máis inclusiva.
