Selecció de personal laboral
i intel·ligència artificial
RAMON GALINDO CALDÉS
Professor de Dret Administratiu UB
La generalització de l’ús de la tecnologia en el mercat de treball afecta també la manera com les empreses seleccionen els treballadors. L’ús de la intel·ligència artificial (IA) s’ha estès a les activitats de selecció i contractació. Tant empreses especialitzades en selecció com les grans empreses en general fan un ús intensiu de les dades a través de sistemes automatitzats i/o basats en IA. L’ús d’aquests sistemes basats en IA els permet gestionar de manera eficient processos en què participen un elevat nombre de candidats, generant un important estalvi de temps i recursos.
Els processos selectius, però, són també un àmbit en què les persones resulten més exposades a riscos de protecció de dades, discriminació i, en definitiva, vulneració del dret constitucional a la igualtat i no-discriminació. La tecnologia no és neutra, i els algoritmes en què es basa la IA poden contenir biaixos de diferent tipus: racials, de gènere, d’edat, segons la procedència, etc. D’altra banda, aquests algoritmes operen de manera opaca, com caixes negres. No podem saber, com a candidats, si un procés selectiu ens ha descartat pel gènere, municipi (o barri) de residència, l’aspecte físic o opinions mostrades en la nostra vida quotidiana.
La selecció és, en si mateixa, una activitat susceptible de produir discriminacions i biaixos, independentment de l’ús de la tecnologia. És per això que la Llei d’infraccions i sancions de l’ordre social (LISOS) preveu sancions en cas que es produeixin. Però la introducció de la tecnologia implica també el processament de dades personals o l’elaboració de perfils. És per això que el Reglament general de protecció de dades personals (RGPD) limita l’ús d’aquestes dades personals, prohibint les decisions basades exclusivament en el processament automatitzat. El Reglament europeu d’intel·ligència artificial (RIA) ha anat una mica més enllà, definint els sistemes de selecció de personal com sistemes d’alt risc i prohibint, per tant, el seu ús. És a dir, un sistema de personal no pot estar basat exclusivament en la IA, sinó que ha d’incorporar la participació humana.
Aquest fenomen, en un context diferent, afecta també l’ocupació pública. La selecció al sector públic i al privat són totalment diferents. De fet, les regles que regeixen els processos selectius al sector públic impedeixen l’ús de la IA com a sistema de selecció.
"La generalització de la IA en els processos selectius, especialment al sector privat, fa que sigui especialment important vigilar-ne
i controlar-ne l’ús, per evitar discriminacions, biaixos i una utilització indeguda de les dades personals."
Els sistemes selectius al sector públic, amb una imatge d’anacronisme, ineficàcia i lentitud, comencen a canviar de manera incipient. L’ús de la tecnologia en tasques rutinàries (per exemple, nòmines) es comença a estendre a altres activitats, també relacionades amb la selecció. Els límits a l’ús de la IA són aplicables també en aquest context, o fins i tot amb més intensitat, ja que els processos de selecció al sector públic s’han de regir pels principis constitucionals d’igualtat, mèrit i capacitat, així com el de publicitat.
La generalització de la IA en els processos selectius, especialment al sector privat, fa que sigui especialment important vigilar-ne i controlar-ne l’ús, per evitar discriminacions, biaixos i una utilització indeguda de les dades personals. Obliga també a implementar eines que evitin un ús abusiu dels algoritmes i garanteixin la igualtat de condicions en l’accés al mercat laboral.