​​

Com és sabut, la IA es desenvolupa mitjançant l’ús d’algoritmes i de dades. A la cuina de la IA, els primers serien les receptes i les segones, els ingredients. Els algoritmes són un conjunt d’instruccions per solucionar un problema. S’han anat fent més complexos amb el temps, de manera que han passat de ser estàtics —en el sentit que els programadors dissenyaven ja en aquests algoritmes els criteris per prendre decisions— a ser dinàmics —en el sentit que els algoritmes denominats d’aprenentatge automàtic (machine learning) tenen la capacitat d’aprendre amb el temps de les dades i experiències per prendre decisions per si mateixos i, així, generar les seves pròpies instruccions, que ja no són les inicials del programador. D’altra banda, l’anomenat aprenentatge profund (deep learning) representa un funcionament de la IA que emula xarxes neuronals complexes. En aquests casos, els algoritmes extreuen patrons de les masses de dades i els resultats que s’obtenen no estan relacionats d’una manera lineal, sinó complexa, per la qual cosa no és senzill determinar la causalitat entre dades i la decisió adoptada.

​

​​Per això, s’ha dit que en un medi ambient d’aprenentatge automàtic el problema amb aquests algoritmes és que els éssers humans ja no poden controlar quina decisió es pren, i ni tan sols poden saber o comprendre per què una decisió errònia s’ha pres, atès que perden de vista la transparència del procés des del començament fins al final, i esdevenen opacs per als qui els han creat, que no entenen la lògica que segueixen. És per això que, de l’opacitat del procés pel qual els algoritmes adopten decisions, se’n parla com d’una «caixa negra» (black box).

 

Aquest supòsit pot posar en risc el principi de transparència administrativa (així, art. 3.1c LRJSP, Llei estatal 19/2013 i autonòmiques similars). Ara bé, l’opacitat algorítmica no pot ser provocada tan sols per les caixes negres d’aquests algoritmes, sinó també per l’aplicació dels límits legals de la legislació de transparència. Com es veurà tot seguit, a Espanya s’ha plantejat en diversos casos judicials en relació amb un algoritme emprat en l’àmbit energètic.

​

​Efectivament, en aquest sector, d’acord amb la Directiva 2009/72/CE del Parlament Europeu i del Consell, de 13 de juliol de 2009, sobre normes comunes per al mercat interior de l’electricitat (art. 3.2), el Parlament espanyol va aprovar una llei en què es preveu concedir un bo social (Llei 24/20213, de 26 de desembre, del sector elèctric: art. 45, modificat diversos cops i desplegat per diversos reglaments posteriors, que recull la sentència que comentarem, que ha donat lloc a una alta litigiositat). Aquest bo és una prestació de caràcter social destinada a protegir determinats consumidors amb circumstàncies personals específiques i de baixos ingressos («els consumidors vulnerables), que consisteix a aplicar un descompte en el preu de l’electricitat consumida a l’habitatge habitual, per evitar que pateixin l’anomenada «pobresa energètica», que afecta molts ciutadans europeus. Aquesta regulació jurídica va ser «traduïda» del llenguatge natural dels textos legals a un llenguatge formal, per ser aplicada mitjançant el programa BOSCO, que pot ser considerat un exemple senzill de sistema d’IA basat en regles, elaborat per la mateixa Administració.

 

La Fundación Civio, una fundació privada compromesa amb la transparència i el bon govern a Espanya, va detectar que la falta d’informació des de l’Administració i la complexitat del procés tenien com a conseqüència que milers de persones no s’acollien al nou model a temps. La fundació Civio va denunciar aquest fet i, alhora, va crear la seva pròpia aplicació informàtica per ajudar col·lectius vulnerables a demanar els ajuts. Desenes d’ajuntaments, organitzacions socials, col·lectius i mitjans la van inserir al seu web, de manera que va arribar a molts milers de persones.

 

L’ús d’aquesta aplicació de Civio va posar en relleu que alguna cosa no funcionava bé: utilitzant l’aplicació de Civio i el programa BOSCO alhora, els resultats no eren idèntics, ja que el segon denegava sol·licituds de persones que tenien dret al bo social, d’acord amb la legislació vigent. És a dir, el programa BOSCO produïa errors, un problema comú amb altres programes en l’àmbit europeu en diferents camps d’actuació administrativa, que ha provocat un regueró de litigis, entre els quals hi ha el famós cas del senyor Bates contra el servei de correus britànic, que ha donat lloc inclús a una sèrie televisiva.

 

La fundació Civio va col·laborar aleshores amb el Govern per intentar pal·liar els problemes detectats i va sol·licitar el 2018 accés al codi font del BOSCO, és a dir, a les entranyes de la programació, d’acord amb la legislació espanyola de transparència, perquè hi havia indicis d’errors en la configuració que impedien que s’apliqués correctament la legislació.

 

​

 

​

 

​

​