Acció política
De Cambridge Analytica
a TikTok: com la IA transforma la democràcia
JULIO PÉREZ HERNANZ
Investigador FPI en Dret i C. Política UB
Els darrers anys la intel·ligència artificial (IA) és una de les paraules de moda, i és normal: actualment, vivim un canvi de paradigma en la societat que no s’ha vist des de l’aparició d’internet. Els darrers anys ja hem vist com s’utilitza per millorar la presa de decisions polítiques, el disseny i l’avaluació de polítiques públiques (Kolkman, 2020) o el desenvolupament de ciutats intel·ligents (Salvador Serna, 2021).
Això s’acreix amb l’aparició dels models generatius com ChatGPT, Llama o Grok. Aquests models estan entrenats per, davant la recepció d’un input de text, donar-nos una resposta al que hem sol·licitat. A més, amb els últims models, tant els inputs com els outputs poden ser imatges o vídeos.
Gràcies a aquesta facilitat d’interacció, per a allò que fa uns anys requeria un coneixement expert en diferents camps, ara només necessites escriure a la IA. Això ens obre un ventall de possibilitats mai vistes, ja que tenim a l’abast de la mà psicòlegs, enginyers, programadors, politòlegs, juristes... En obrir aquestes possibilitats a un públic no expert, es permet que es faci ús d’aquests coneixements sense la cura ètica i deontològica deguda, la qual cosa dona lloc a un mal ús d’aquesta tecnologia i, quan parlem de política, aquest mal ús pot afectar la vida de milions de persones.
Tan sols s’ha de pensar en les implicacions que té i en la capacitat d’acció en conjunt amb altres tecnologies com les xarxes socials, que pot ser molt útil, per exemple, per traduir automàticament les publicacions d’un polític de la Unió Europea a tots els idiomes. Però i si aquests comptes s’utilitzen per generar fake news?
La solució sembla senzilla: recórrer a fonts de confiança d’informació, però i si podem generar premsa amb notícies falses que reforcin aquesta idea? I si s’utilitzen diverses fonts per generar altres notícies? Això obligaria a anar revisant una a una totes les publicacions que rebem per veure’n la veracitat, i en el moment que n’hem descobert una de falsa ja hem rebut desenes o centenars de publicacions falses, de manera que fa que no puguem diferenciar les publicacions vertaderes de les falses.
"En política, això pot tenir efectes catastròfics ja que afecta països sencers, cosa que hem vist repetidament, com en el cas de les eleccions presidencials de primera volta a Romania l’any 2024, en què va guanyar el candidat prorús Calin Georgescu, gràcies a l’ús de l’algoritme de TikTok, fet que va obligar el Tribunal Constitucional a invalidar els comicis i repetir les eleccions"
En política, això pot tenir efectes catastròfics ja que afecta països sencers, cosa que hem vist repetidament, com en el cas de les eleccions presidencials de primera volta a Romania l’any 2024, en què va guanyar el candidat prorús Calin Georgescu, gràcies a l’ús de l’algoritme de TikTok, fet que va obligar el Tribunal Constitucional a invalidar els comicis i repetir les eleccions (Paternoster, 2024).
Això no és nou, gràcies a les dades massives (big data) i la IA ja s’havien perfilat votants per tal de modificar-ne la intenció de vot. El cas més conegut és el Brexit i Cambridge Analytica (Jungherr, 2023). Ara, en obrir aquesta tecnologia a tothom, ens espera un futur incert, ja que no falta gaire perquè es facin servir imatges o vídeos generats per IA indistingibles de la realitat…