El órgano fiscalizador de la Xunta ha aprobado un marco regulatorio para el uso de la IA, con el objetivo de que sirva de apoyo en la detección de anomalías y en el análisis masivo de datos. No obstante, se establece claramente que la inteligencia artificial tendrá un carácter exclusivamente de apoyo y asistencia técnica, sin que pueda sustituir en ningún caso el juicio profesional del auditor ni elaborar conclusiones, recomendaciones o valoraciones sobre responsabilidades.
El acuerdo publicado en el Diario Oficial de Galicia (DOG) subraya la necesidad de que la IA se utilice dentro de un marco de gobernanza sólido, ético y seguro. Esto garantiza la protección de los datos, la ausencia de sesgos injustificados, la trazabilidad de los procesos y la inexistencia de automatismos que puedan afectar el criterio del personal.
Las fiscalizaciones que realiza el Consello de Contas implican la comprobación de un gran volumen de datos de los organismos públicos, incluyendo la Xunta, ayuntamientos y diputaciones. La IA podrá emplearse para el análisis masivo de informes presupuestarios o contables, la búsqueda semántica, la extracción automatizada de información y la detección preliminar de riesgos o anomalías. También se podrá usar para elaborar informes internos no vinculantes.
En cuanto a las prohibiciones, la resolución advierte que se blinda la 'primacía del juicio humano' y la 'independencia' del órgano fiscalizador. No se podrá usar la IA para tomar decisiones automatizadas, elaborar juicios profesionales, realizar valoraciones sobre responsabilidades ni para perfilar personas físicas, predecir comportamientos o evaluar riesgos individuales.
Además, el personal de Contas deberá identificar y evitar sesgos algorítmicos mediante evaluaciones periódicas y formación específica para detectar 'alucinaciones' de la IA. Se creará un comité de gobernanza para autorizar nuevos usos, evaluar riesgos, fijar estándares y elaborar un informe anual que se hará público.
El acuerdo también especifica que todo uso de la inteligencia artificial deberá ser auditable, documentable y susceptible de supervisión posterior. Se realizará un análisis previo de riesgos, prohibiendo el tratamiento masivo de datos personales e incorporando medidas de seguridad para prevenir accesos no autorizados y la reutilización indebida de la información.
