Aquest contingut forma part de la guia de bones pràctiques per a l'ús responsable de la IAG en l'àmbit docent a la UdG. L'objectiu principal és garantir la integritat acadèmica i un aprenentatge real en un moment de popularització de la IAG. La seva importància rau en què estableix límits clars entre l'ús ètic com a suport (millorar redacció, idees, etc.) i el frau acadèmic (generar contingut principal com a propi). Cal ajudar a l'estudiant a entendre les diferències i que ell/ella és el responsable final del seu treball i, per tant, que no pot delegar ni el coneixement ni les competències que s'han d'avaluar. Aquest i altres recursos estan disponibles a la nostra web 👉 udg.edu/ca/ia

Ahir vaig explicar alguns dels continguts principals de l'estudi que vam elaborar @OEIAC_UdG sobre els riscos de la IA en l’àmbit dels processos electorals. El focus el vaig posar en visibilitzar les cinc categories d’eines d'IA amb un potencial de manipulació elevat i que són susceptibles de ser utilitzades per actors maliciosos en qualsevol procés electoral. Aquests inclouen 1) els deepfakes (vídeos i àudios falsos, però realistes), 2) els Grans Models de Llenguatge (LLMs) capaços de generar desinformació a escala industrial, 3) els bots d’amplificació automàtica, 4) la microsegmentació psicogràfica per enviar missatges hiperpersonalitzats, i 5) la suplantació d’identitat per confondre al votant amb llocs web no oficials, etc. Tots i cadascún d'aquests temes són coneguts i tenim mesures aplicables de mitigació. Però, què podem fer mentre no s'apliquen ni salvaguardes tècniques per part de les companyies, ni codis ètics per part de partits polítics ni molt menys regulació específica sobre la matèria? Doncs algunes mesures que, a nivell personal i en termes d'alfabetització i formació, poden ser ben efectives. Primer, davant dels deepfakes, cal adoptar una actitud d'escepticisme saludable, que vol dir que abans de compartir qualsevol vídeo o àudio impactant d'un candidat, cal verificar-ne l'origen amb cerques inverses i contrastar-ho amb mitjans de confiança. Hem de recordar que el cervell processa l'audiovisual com a verídic per defecte, i que els deepfakes d'àudio són especialment perillosos en missatges privats o trucades. Segon, pel que fa als grans models de llenguatge, és important entendre que la persuasió més fluida i densa en afirmacions pot ser precisament la menys fiable. En aquest sentit, cal qüestionar la font de qualsevol text polític generat per IA i no deixar-se seduir per la seva aparent lògica. Tercer, quant als bots i l'amplificació automàtica, cal desconfiar de la popularitat aparent ja que els trending topics i el suport massiu poden ser artificials. Això també inclou no participar en cadenes de missatges sense verificar i evitar amplificar contingut que sembla coordinat o massa repetitiu. Quart, sobre la microsegmentació psicogràfica, cal prendre consciència que si un missatge polític sembla fet exactament a mida, probablement ho estigui i amb una intenció precisa d'influir en el nostre comportament. Per tant, és important revisar la configuració de privacitat i limitar les dades que compartim. Finalment, davant la suplantació d'identitat, cal verificar sempre la procedència dels comptes i webs oficials, desconfiar de dominis sospitosos i consultar els canals oficials de l'administració electoral. En definitiva, si bé la integritat electoral no depèn ni molt menys de la responsabilitat individual de cada ciutadà, aquestes mesures poden ajudar a mitigar-ne els impactes negatius, també a tenir una ciutadania desperta, informada i capaç de protegir el seu propi judici davant la manipulació. Accions com cultivar l'hàbit de verificar abans de compartir i mantenir el pensament crític sempre ajuda en situacions d'incertesa informativa, i són una primera línia de defensa mentre no arriben les solucions estructurals que, urgentment, necessitem.

A la UdG hem aprovat un codi de bones pràctiques per fomentar l’ús responsable de la IA generativa en la docència. Aquest codi, que ja ha entrat en vigor, estableix criteris clars perquè l’estudiantat i el professorat puguin utilitzar aquestes eines sense comprometre la integritat acadèmica ni els objectius d’aprenentatge. El Codi de bones pràctiques es pot consultar a través del portal IA Connecta que la UdG posa a disposició de la comunitat universitària i complementa tota la informació i recursos d’alfabetització en IAG que hem anat oferint tant per a estudiantat, personal docent i investigador i personal tècnic, de gestió i d’administració i serveis per a un ús responsable de la IA. Seguim! 👉 udg.edu/ca/ia