REPORTATGE
Cap a una IA inclusiva
Andorra Recerca i Innovació treballa amb el Consell d’Europa en una regulació perquè les petites comunitats tinguin cabuda en les noves tecnologies.
L'AR+I treballa amb el Comitè d'Ètica de la Intel·ligència Artificial.
La majoria de mòbils compten amb un sistema intern que selecciona les notícies més importants del món. Les publicades a The Washington Post, The Guardian, Le Monde i La Vanguardia, per exemple. Ara bé, mai un d’aquests reculls mostrarà una notícia del Diari d’Andorra, i la raó és que aquests agregadors de notícies que utilitzen la intel·ligència artificial (IA) estan entrenats per treballar amb grans quantitats de dades i només tenen en compte les publicacions que utilitzen les llengües majoritàries. “La intel·ligència artificial obvia les comunitats petites com l’andorrana i també les llengües minoritàries o minoritzades, com ara el català”, apunta el coordinador de l’àrea de tecnologia d’Andorra Recerca i Innovació (AR+I), Jordi Ascensi.
Davant d’aquest panorama, Ascensi treballa des de fa anys amb el Comitè d’Ètica de la Intel·ligència Artificial del Consell d’Europa en l’elaboració d’un document que reguli els sistemes d’intel·ligència artificial per tal que no afectin els drets humans, la democràcia ni l’estat de dret. Entre aquests tres supòsits es contempla la discriminació per raó de llengua, que és la que afecta el Principat i els països catalans. Així, el coordinador de l’àrea de tecnologia de l’AR+I, entitat pública encarregada de la recerca i innovació en diversos àmbits, treballa en un esborrany del text que es presentarà davant del Consell d’Europa el març de 2024. Un cop presentat, el Consell de Ministres europeu haurà de validar el document i, llavors, els països que formen part de la discussió, que són prop de 50, decidiran si adherir-se o no a la regulació. La previsió segons Ascensi és que Andorra s’hi adhereixi, però remarca que és una decisió que recau únicament sobre el Govern.
La intel·ligència artificial dona lloc a moltes discriminacions i no tan sols per raó de llengua; també per raó de gènere o de raça. El membre de l’AR+I posa l’exemple d’Amazon. Ascensi explica que l’empresa rebia cada any tantes propostes de feina que, saturat, el departament de recursos humans va demanar al departament tecnològic que els ajudés a fer una primera selecció utilitzant la intel·ligència artificial. Els programadors d’Amazon van desenvolupar un sistema utilitzant les dades dels treballadors que havien contractat en un passat, però només posar-ho en funcionament es van adonar que hi havia un problema. A la segona ronda d’entrevistes només havien passat homes blancs i enginyers, perquè era el perfil de treballador més comú de l’empresa.
Ascensi també posa com a exemple la plataforma Zoom i com aquesta, al principi, quan triaves l’opció de difuminar el fons i tenies el cabell llarg, te’l difuminava també. “El motiu és que s’havia entrenat en homes i les dones estan totalment excloses de la configuració”, apunta.