Concessió de crèdits
Concessió de crèdits
al consum i intel·ligència artificial
ESTHER ARROYO AMAYUELAS
Catedràtica de Dret Civil UB
La digitalització dels serveis financers ha comportat nous actors, nous productes i noves formes de comercialitzar-los, i la irrupció de les dades massives (big data) ha propiciat l’elaboració de perfils i l’explotació de dades no convencionals en l’avaluació de la solvència. Les tecnologies financeres (fintech) basen el negoci en la intel·ligència artificial, la qual també irromp, però, en la banca tradicional, la qual, això no obstant, encara es troba lluny de reemplaçar completament la presència humana per assistents digitals. En tot cas, part del procés de concessió de crèdit ja està digitalitzat, en particular pel que fa a la publicitat i informació en línia, quan no està automatitzat del tot gràcies al credit scoring (solvència creditícia) intern o extern (STJUE C-634/21, Schufa Holding, de 7 de desembre de 2023). El legislador europeu ha anat adaptat la protecció del consumidor als reptes de la digitalització en nombroses directives, i una és la Directiva (UE) 2023/2225, de 18 d’octubre de 2023, relativa als contractes de crèdit al consum (DCC 2023).
Les úniques dades importants per a l’avaluació creditícia són les que tenen rellevància econòmica. Això no obstant, prolifera la utilització de dades no estructurades per avaluar la solvència de les persones per part d’empreses de tecnologies financeres. Es tracta d’imatges, vídeos o àudios recollits a través de Twitter, YouTube, LinkedIn o Instagram, i missatges de WhatsApp o empremtes digitals que han deixat les consultes a través de motors de cerca o activitats de navegació en línia. La consulta d’aquestes dades també pot ser útil per avaluar els consumidors que no tenen historial creditici (per exemple, joves o immigrants), però planteja el risc d’exclusió de determinades persones o grups vulnerables a qui no es concedeix el crèdit que sol·liciten, malgrat ser capaços de retornar-lo. A l’efecte de valorar la solvència (no de màrqueting), els articles 18.8 i 19.5 DDC 2023 prohibeixen expressament utilitzar dades recollides en xarxes socials, i es pot entendre que la prohibició s’estén a totes les dades obtingudes en consultes de cerca o activitats de navegació en línia.
Tant per a prestadors tradicionals com per a les modernes empreses de fintech està prohibit usar dades personals esmentades en l’article 9.1 del Reglament general de protecció de dades, com, per exemple, l’edat o la salut (art. 18.3 i 19.5, DCC 2023). És necessari alertar de la tendència a rebutjar les sol·licituds de préstecs de gent gran, simplement després de constatar l’edat, i sense comprovar la solvència individualment, quan en la concessió intervenen plataformes amb un procés de contractació totalment automatitzat.
"Les úniques dades importants per a l’avaluació creditícia són les que tenen rellevància econòmica. Això no obstant, prolifera la utilització de dades no estructurades per avaluar la solvència de les persones per part d’empreses de tecnologies financeres.."
En els procediments automàtics d’avaluació de la solvència, els consumidors tenen dret a sol·licitar al creditor —i a obtenir-ne— una explicació del procés d’avaluació de la solvència; a expressar el seu punt de vista, i a sol·licitar una revisió tant de la valoració com de la decisió final del prestador. Tan sols explicacions clares, comprensibles i prou completes conjuren el risc que un ésser humà no sigui capaç de seguir les complexes consideracions i funcions d’un sistema d’intel·ligència artificial (vid. l’advocat general Richard de la Tour, en les conclusions en l’afer C-203/22, CK, Dun & Bradstreet Austria, de 12 de setembre de 2024).
Convé, doncs, estar alerta perquè les plataformes de concessió automatitzada de crèdit no eludeixin aquest deure, amb el pretext de protegir la propietat intel·lectual i els secrets comercials. De moment, les mesures de control que imposa el Reglament (UE) 2024/1689, de 13 de juny de 2024, pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial, ajuden que els consumidors confiïn en la fiabilitat del sistema, tot i que, en realitat, no l’acabin de comprendre.