ANTONIO MADRID PÉREZ
Professor de Filosofia del Dret UB
Una de les grans preocupacions a les democràcies contemporànies és fins a quin punt la intel·ligència artificial (IA) i, especialment, la IA generativa s’estan utilitzant i es poden utilitzar per manipular l’opinió pública. No és casualitat que una de les pugnes internacionals més rellevants s’estigui donant avui dia al voltant del control de la IA: és un recurs estratègic. Un recurs que afecta ja totes les àrees en què es desenvolupa la vida a les societats contemporànies: des de l’economia fins a la política, passant per la medicina, la ciència o per les formes de control i la defensa dels drets i les llibertats.
Quan es pensa en el potencial de la IA, tenim dificultat a distingir què és nou i què no és nou. La preocupació sobre la possibilitat de manipular l’opinió del poble és una constant al pensament polític i social. Manipular i enganyar sempre han estat instruments en mans de qui ha controlat el poder o se n’ha volgut apoderar. Des d’aquest punt de vista històric, no és nova la preocupació per la manipulació de poble mitjançant la mentida, la desinformació, els rumors, la propaganda o l’orientació dels continguts ideològics difosos pels mitjans de comunicació.
Ara bé, la IA ha aportat noves potencialitats. Cal tenir present que el desenvolupament actual de la IA, que en gran part està en mans privades, permet incidir en l’expansió de continguts informatius d’àmbit general, al mateix temps que també permet arribar a cada persona o grup específic de persones. Si fem servir una metàfora agrària, es pot dir que la utilització de la IA amb la finalitat de manipular-nos pot seguir una estratègia de reg per inundació o de reg gota a gota individualitzant cada persona o grup de persones.
La IA presenta una enorme capacitat de reproducció de continguts de consciència. Continguts que marquen el nostre dia a dia en qüestions tan importants com què és veritat, què és mentida, o què és real i què no és real. Tanmateix, usos actuals de la IA mostren una gran capacitat per crear estats d’opinió compartits: sigui confirmant el que volem o ens convé creure, sigui dificultant la recepció de continguts informatius contraris.
"La IA presenta una enorme capacitat de reproducció de continguts de consciència. Continguts que marquen el nostre dia a dia en qüestions tan importants com què és veritat, què és mentida, o què és real i què no és real."
Malgrat aquestes realitats, no podem oblidar que les experiències del feixisme italià, del nazisme, del franquisme espanyol o de l’estalinisme a l’URSS durant parts del segle XX, per posar-ne alguns exemples històrics, es van donar molt abans de la creació i utilització de la IA. Seria un error deixar-nos cegar per les novetats que introdueix la IA com si abans de disposar d’aquesta tecnologia no s’hagués donat cap dels problemes de manipulació i de control que ens preocupen avui dia ni cap de les terribles conseqüències que se’n van derivar. És fals que no ens hi puguem oposar. De fet, una de les característiques que van compartir els autoritarismes va ser impossibilitar la resistència, assolir l’hegemonia cultural i social, i fer creure a la població que no era possible cap alternativa a l’ordre existent.