Acte d’inauguració del nou curs acadèmic i graduació a l’ESAGED 2024: Caixes negres o lluita per la transparència

El passat 9 d’octubre es va celebrar l’acte d’inauguració del nou curs acadèmic i graduació dels titulats i titulades de la promoció 2024 de l’Escola Superior d’Arxivística i Gestió de Documents, i l’entrega de diplomes del Màster oficial en Arxivística i Gestió de Documents, el Diploma d’Especialització en Gestió de Documents Electrònics, i el Diploma d’Especialització en Gestió i Preservació de Documents Audiovisuals i Sonors. Acte en el qual també es va poder gaudir de la conferència inaugural “Caixes negres administratives o la lluita per la transparència dels algorismes de la IA al sector públic” a càrrec de la Dra. Clara Isabel Velasco Rico, Professora Agregada Serra Húnter de Dret Administratiu de la Universitat Pompeu Fabra i vicepresidenta de la Comissió de Garantia del Dret d’Accés a la Informació Pública de la Generalitat de Catalunya GAIP.

La conferència de Clara Isabel Velasco Rico va començar agraint la implicació de la professió arxivera en la transparència i l’accés a la informació i la insistència de l’Associació de Professionals de l’Arxivística i la Gestió de Documents de Catalunya (AAC) durant anys batallant perquè hi hagués presència arxivera i de gestió documental dins la GAIP. Especialment, felicitant-se per la feina de la vocalia en la (GAIP) que actualment exerceix la Mercè Aymerich Boltà, i de com ha aportat un gran coneixement de l’administració local i la normativa en gestió documental.

Però es van poder sentir i veure molts més temes, i aquest és el motiu de l’article, poder exposar i comentar el que Clara Isabel va explicar i contextualitzar algunes coses que no va haver-hi temps de comentar llavors, com per exemple quan es va parlar de moment de crisi, cosa que ja sabem que crisi és també oportunitat de canvi. Així que aquest article versarà sobre aquesta nova oportunitat de camp a recórrer.

La conferència va orientar-se cap a relatar diversos casos de peticions de transparència i accés a la informació pública centrant-se sobretot en el coneixement dels algorismes, en la definició de la intel·ligència artificial i en la publicació del codi font. Temes que impliquen no només a juristes, sinó que com va quedar clar interpel·la a altres professions com l’arxivera o l’ambiguament anomenada tecnòloga o informàtica.

Parlar de transparència no ens venia de nou, ja que al llarg de congressos i jornades de les darreres dècades n’hem parlat molt en els arxius i això s’ha vist reflectit en com la professió apareix reconeguda dins de la legislació al respecte, aconseguint compartir espais de treball i decisió amb professionals que fins llavors es consideraven més relacionats amb aquesta jurisdicció. En canvi, el coneixement dels algorismes, la definició d’intel·ligència artificial i la publicació de codi font, són temes que suposaran reptes a plantejar, assumir i participar en els pròxims anys.

En una primera part Clara Isabel va parlar de com havíem de definir els algorismes o com podem explicar el que és la intel·ligència artificial. Com aquests algorismes s’han anat introduint al corpus legal per calcular i discriminar a qui beneficien certes prestacions o a qui afecten certes restriccions. Per això va explicar com tot i que aquests algorismes surten escrits a les lleis, no sempre s’explica ben bé com funcionen i es deixa a la interpretació d’experts en algorítmica i funcions matemàtiques. Algorismes com en el cas de BOSCO que tot i que l’algorisme és públic, no ho és el codi font de l’aplicació que l’aplica i, per tant, es desconeix si interpreta errors que se sospita que pot cometre l’aplicació per part de les empreses que han de concedir els bons socials. Una batalla judicial de la fundació Civio que encara resta pendent de resoldre’s. O el cas de RisCanvi en serveis penitenciaris, el qual ofereix suport als processos de presa de decisions, avalua les necessitats de cada intern i permet orientar el disseny del seu programa individual de tractament per complir amb l’itinerari de reinserció, amb la classificació i la concessió de permisos. Programa que ja ha comès errors molt greus en l’avaluació de presos en situació crítica suposant la mort d’una treballadora a la presó de Mas Enric.

Es continuà el fil de la conferència explicant com dins de l’administració de la Generalitat de Catalunya l’ús d’algorismes de decisió és una pràctica molt estesa que no sempre ha estat publicitada i explicada acuradament, i Clara Isabel ho va exemplificar amb com el públic de la sala desconeixia que per exemple en el Departament de Salut s’apliquen un centenar d’algorismes de decisió per destriar pacients i categoritzar-los. Però hi ha més, a la Generalitat podem veure-hi que existeix l’ús d’algorismes com el cas d’AMS dins d’Ocupació, trobem els casos de RisCanvi, COMPAS, LSI-R a Presons, VioGén, VeriPol, PredPol dins de Policia, Ofqual a Educació, Gladsaxe Allegheny a Serveis Socials, BOSCO a Ajuts socials, i SyRI, Toeslagenaffaire, i Robodebt a Detecció del frau. Sistemes amb algoritmes que per exemple surten anomenats al número Vol. 9: Transparència algorítmica al sector públic de la Col·lecció Govern Obert.

El segon tema de la conferència fou el de la publicació oberta o lliure dels codis font. Un tema polèmic a causa de les implicacions en seguretat i audibilitat, i de l’enorme exigència que suposa d’escrutini públic cap a la feina de programadors i codificadors informàtics. Però que als amants del programari lliure ens desperta emocions profundes perquè per fi veiem certs anhels correspostos i el temps podria acabar donant-nos la raó.

Malgrat campanyes com Public Money, Public Code, la transparència i publicació dels codis font informàtics, segueix sent una assignatura pendent d’assumir de format transversal. És cert que s’ha avançat molt i que és habitual veure publicat codi font en repositoris com GitHub o GitLab, però encara és una assignatura pendent que les mateixes institucions públiques publiquin el codi font de totes les aplicacions desenvolupades en el seu entorn de treball, tant sigui per empreses externes com per treballadors interns. Publicació que sovint es veu afectada o bloquejada amb argumentacions sobre riscos de seguretat o qualitat del codi, però que actualment es van superant gràcies a auditories i processos de control de qualitat, especialment quan són requerits en projectes finançats amb fons europeus.

La professora Clara Isabel va estar molt encertada al llarg de tota la conferència sobretot en les reclamacions quant a transparència i accés a la informació. Una bona sintonia que augura que pot haver-hi grans consensos i que les reivindicacions que durant dècades s’han fet des de la societat civil per fi es podrà veure com comencen a complir-se en l’àmbit governamental. Malgrat el que queda per recórrer encara quant a legislació sobre intel·ligència artificial, però almenys exemples com el Reglament General de Protecció de Dades és molt útil i ens està donant moltes eines en termes de transparència i accés a la informació.

En el torn de debat posterior van sorgir diversos comentaris, especialment respecte del camp de la informàtica i la publicació del codi font i dels algorismes, o també sobre els perfils professionals que s’estan requerint amb caràcter més tecnològic dins dels organismes de decisió sobre transparència i accés a la informació. També es varen comentar punts importants com la llista d’algorismes i intel·ligències artificials utilitzades per la Generalitat de Catalunya, les comissions que treballen dins la Generalitat sobre aquests temes, i els possibles registres que s’estan elaborant o pensant per inventariar tota la diversitat d’eines i aplicacions. Però ja tindrem temps de parlar-ne suposo al llarg dels pròxims mesos i anys, ja que sembla que els algorismes i la IA seran els temes del moment.

En tot cas, i per acabar, assenyala que va quedar palès que la professió arxivera té molt a dir sobre aquests temes, sobretot quant a la part final de l’acte l’Almudena Gutiérrez, vicepresidenta de l’AAC, va anunciar el Premi al Millor Treball de Fi de Màster 2024, guardó anual impulsat des de l’àmbit d’Arxivística i Gestió de Documents de l’Escola FUAB Formació i l’Associació d’Arxivers i Arxiveres i Gestors de Documents de Catalunya. El premi aquest any el va guanyar Sheila García Reig amb el seu estudi sobre “L’ús de la intel·ligència artificial als arxius de les administracions públiques: una revisió d’abast”. Treball que tenim moltes ganes de poder llegir i veure el que ens pot aportar en la tasca ingent que se’ns requereix també als arxius sobre com ens posicionem en l’ús de la intel·ligència artificial i els algorismes. Així doncs, una qüestió que no ens agafarà d’imprevist sinó que ja tenim avui treballs acadèmics al respecte.