Conflictes bèl·lics
L’impacte de la IA en
els processos de presa
de decisions en la guerra: reflexions generals
MILTON J. MEZA RIVAS
Professor de Dret Internacional Públic UB
La intel·ligència artificial (IA), en el context de les ciències de la computació, és la disciplina científica que s’ocupa de crear programes informàtics que executen operacions comparables a les que fa la ment humana, com la cognició, la planificació, l’aprenentatge o el raonament lògic. Aquesta tecnologia es diferencia de la resta a causa de la capacitat d’inferència (és a dir, del procés d’obtenció de resultats de sortida, com prediccions, continguts, recomanacions o decisions, que poden influir en entorns físics o virtuals) i la de deduir models o algoritmes, o ambdós, a partir de la informació d’entrada o dades.
En l’actualitat, els programadors i/o desenvolupadors d’IA, amb l’interès d’enfortir aquestes capacitats tecnològiques, cada cop més opten per emprar tècniques d’aprenentatge automàtic —que permeten a la IA aprendre a través de les dades com pot assolir determinats objectius (definits explícitament o implícits)—, així com les basades en la lògica i el coneixement —les quals fan que la IA pugui inferir a partir de coneixements codificats o d’una representació simbòlica de la tasca que s’ha de resoldre. Sigui com sigui, el que és cert és que aquest tipus d’estratègies d’aprenentatge fan que la IA transcendeixi el tractament bàsic de dades i esdevingui una tecnologia que aprèn, raona o modelitza.
Així doncs, la IA pot permetre que un sistema, una màquina o un dispositiu funcioni amb diversos nivells d’autonomia, fins al punt de ser capaç de dur a terme tasques amb un grau considerable d’independència respecte de l’actuació humana i tenir certes funcionalitats que podria executar per si sol i sense una intervenció humana significativa. Per això, com que es tracta d’eines de programari o algoritmes aplicables a moltes tasques diferents, la IA és un motor de canvis disruptius que comporten implicacions (promeses, però sobretot desafiaments) de gran rellevància que afecten diferents sectors de la societat en general, incloses les àrees militars, de seguretat i de defensa.
Tenint en compte tot això, avui es poden identificar dos àmbits molt específics d’aplicació de la IA que ja generen grans preocupacions des d’una perspectiva del dret internacional i, molt especialment, del dret internacional humanitari (DIH): d’una banda, l’ús d’aquesta tecnologia emergent en la conducció de les hostilitats i en altres situacions de violència, i, en segon lloc, la utilització que se’n fa en l’acció humanitària per ajudar i protegir les víctimes dels conflictes armats. Ambdós supòsits posen de manifest la necessitat que la comunitat internacional —exercint una diplomàtica tecnològica eficient— posi el focus de l’anàlisi i atenció sobre les possibles conseqüències humanitàries i les obligacions jurídiques i consideracions ètiques que haurien de regir el desenvolupament i l’ús de la IA, sobretot quan ha estat (o és) explorada, experimentada i implementada en els processos de presa de decisions militars sobre l’ús de la força en els conflictes armats.
"Aquestes innovacions tecnològiques emprades per optimitzar els processos de presa de decisions militars —des del nivell operacional fins al tàctic— no són infal·libles, per la qual cosa avui s’albiren riscos molt específics entorn del seu ús."
En concret, els sistemes dotats d’IA que són dissenyats per donar suport als processos de presa de decisions en la guerra o per assistir-los han guanyat terreny entre les forces armades dels estats. D’aquesta manera, han esdevingut un mitjà necessari per ajudar-los a processar grans quantitats de dades i obtenir informació o recomanacions en temps reals sobre l’adversari, de manera que puguin actuar o reaccionar ràpidament. Això no obstant, aquestes innovacions tecnològiques emprades per optimitzar els processos de presa de decisions militars —des del nivell operacional fins al tàctic— no són infal·libles, per la qual cosa avui s’albiren riscos molt específics entorn del seu ús (per exemple, una tecnologia d’aquest tipus no té la capacitat per fer tasques de raonament abstracte; no està lliure de biaixos; l’eficàcia de la seva estratègia d’aprenentatge depèn de la qualitat i quantitat de les dades d’entrenament, que sovint van a destemps de la realitat tan canviant del conflicte, i sobretot és particularment vulnerable als atacs dels adversaris).
En aquest estat de coses, queda clar que —depenent de les seves capacitats i limitacions, l’ús o el mal ús— les aplicacions d’IA implementades en els processos de presa de decisions sobre situacions de conflicte armat condueixen a una sèrie d’impactes importants que, en conjunt, representen un gran desafiament per al dret internacional. Això no obstant, al mateix temps, la IA ofereix una oportunitat idònia perquè les forces armades dels estats millorin els processos de presa de decisions relatives a la conducció d’hostilitats. Per tant, a l’hora de reflexionar sobre totes aquestes qüestions, el que és clau és que els diferents actors de la societat internacional optin per una metodologia d’aproximació que no demonitzi ni santifiqui les tecnologies en general i que, en especial, promogui la idea que el desenvolupament i l’ús de la IA s’ha de donar sempre sota un enfocament centrat en l’ésser humà.