O órgano fiscalizador da Xunta aprobou un marco regulatorio para o uso da IA, co obxectivo de que sirva de apoio na detección de anomalías e na análise masiva de datos. Non obstante, establécese claramente que a intelixencia artificial terá un carácter exclusivamente de apoio e asistencia técnica, sen que poida substituír en ningún caso o xuízo profesional do auditor nin elaborar conclusións, recomendacións ou valoracións sobre responsabilidades.
O acordo publicado no Diario Oficial de Galicia (DOG) subliña a necesidade de que a IA se utilice dentro dun marco de gobernanza sólido, ético e seguro. Isto garante a protección dos datos, a ausencia de sesgos inxustificados, a trazabilidade dos procesos e a inexistencia de automatismos que poidan afectar o criterio do persoal.
As fiscalizacións que realiza o Consello de Contas implican a comprobación dun gran volume de datos dos organismos públicos, incluíndo a Xunta, concellos e deputacións. A IA poderá empregarse para a análise masiva de informes orzamentarios ou contables, a busca semántica, a extracción automatizada de información e a detección preliminar de riscos ou anomalías. Tamén se poderá usar para elaborar informes internos non vinculantes.
En canto ás prohibicións, a resolución advirte que se blinda a 'primacía do xuízo humano' e a 'independencia' do órgano fiscalizador. Non se poderá usar a IA para tomar decisións automatizadas, elaborar xuízos profesionais, realizar valoracións sobre responsabilidades nin para perfilar persoas físicas, predicir comportamentos ou avaliar riscos individuais.
Ademais, o persoal de Contas deberá identificar e evitar sesgos algorítmicos mediante avaliacións periódicas e formación específica para detectar 'alucinacións' da IA. Crease un comité de gobernanza para autorizar novos usos, avaliar riscos, fixar estándares e elaborar un informe anual que se fará público.
O acordo tamén especifica que todo uso da intelixencia artificial deberá ser auditable, documentable e susceptible de supervisión posterior. Realizarase unha análise previa de riscos, prohibindo o tratamento masivo de datos persoais e incorporando medidas de seguridade para previr accesos non autorizados e a reutilización indebida da información.
