L'Observatori d'Ètica en Intel·ligència Artificial de Catalunya documenta seixanta casos d'ús de IA en eleccions el 2024

L'Observatori d'Ètica en Intel·ligència Artificial de Catalunya ha presentat un estudi pioner que analitza els riscos de la intel·ligència artificial (IA) en els processos electorals. L'informe, encarregat pel Departament de Justícia i Qualitat Democràtica de la Generalitat, revela que durant el 2024 —considerat un "superany electoral" amb gairebé la meitat de la població mundial cridada a les urnes— un mínim de seixanta països van utilitzar sistemes d'IA en algun moment de les seves campanyes o procediments electorals.

En una entrevista al programa Els Quatre Rius de Girona FM, una de les autores de l'estudi, Arlet Brufau i Centelles, ha explicat que l'impacte de la IA s'ha vist principalment en la difusió de relats manipulats i desinformació, més que no pas en l'alteració directa dels resultats del recompte de vots.

Les cinc tipologies d'eines de risc

L'estudi cataloga l'ús de la IA en cinc grans categories de tecnologies que poden influir en el comportament de l'electorat:

• Deepfakes: Generació d'imatges, vídeos o àudios falsos per alterar declaracions de candidats o difondre informació errònia sobre el mateix procés (com horaris o col·legis electorals).

• Microsegmentació psicogràfica: Classificació detallada de la població segons els seus interessos per bombardejar-los amb publicitat electoral altament personalitzada.

• Bots automatitzats: Sistemes dissenyats per interactuar a les xarxes socials i dirigir missatges personalitzats sense transparència sobre qui hi ha al darrere.

Del desinterès al "vot de la ràbia"

Un dels efectes més preocupants detectats pels investigadors és el canvi psicològic que provoca la desinformació generada per IA en els votants. Segons Brufau, tradicionalment la desinformació provocava abstenció, però actualment s'observa una tendència diferent:

"L'impacte de l'ús d'eines d'intel·ligència artificial el que fa és el vot de la ràbia. És a dir, votar en contra d'alguna cosa, anant a opcions, sobretot en discursos d'odi d'extrema dreta, perquè ofereixen solucions molt més ràpides i fàcils."

La importància de la governança i la formació

Davant d'una tecnologia que avança molt més ràpid que els marcs legals, l'estudi aposta per la governança activa i la capacitació de la ciutadania. Brufau assenyala que la regulació per si sola no serà suficient si la societat no està formada per detectar i assenyalar la manipulació d'aquests relats.

Escolta l'episodi complet