La degeneració de la intel·ligència artificial i de la tecnologia

El Parlament Europeu i el Consell de la UE han assolit un acord provisional sobre la primera “llei d’intel·ligència artificial”. Previsiblement, aquest text es plasmarà en un reglament d’aplicació que entrarà en vigor l’any 2026.

Els assumptes que més discussió han generat han estat els sistemes de IA generativa, com ChatGPT, i els elements d’alta complexitat com l’ús de dades biomètriques (sistemes que analitzen trets biològics –com trets facials, estructures oculars i empremtes dactilars– que serveixen per determinar la identitat d’una persona).

El projecte recull determinades prohibicions, és a dir, supòsits en els quals no es podrà emprar la IA, d’entre les quals destaquen:

La categorització biomètrica que utilitzi dades sensibles (per exemple, creences polítiques, religioses, filosòfiques, orientació sexual, raça).

L’extracció no selectiva d’imatges facials d’internet o d’enregistraments de circuits tancats de televisió per crear bases de dades de reconeixement facial.

El reconeixement d’emocions en el lloc de treball i en institucions educatives.

La puntuació social basada en el comportament social o les característiques personals.

La manipulació del comportament humà per eludir el seu lliure albir.

L’explotació de les vulnerabilitats de les persones a causa de la seva edat, discapacitat o situació socioeconòmica.

El text complet, que serà d’aplicació a partir de l’any 2026, posa en relleu l’impacte que un ús il·limitat de la IA pot tenir en les nostres vides. Especialment, pel que fa a les amenaces i a la vulneració de la nostra esfera íntima, sempre i quan proliferin sistemes de IA que, lluny de facilitar-nos la vida, decideixin per nosaltres.

O el que encara és més perillós, que directament les nostres decisions estiguin contaminades perquè les opcions que se’ns presentin estiguin prèviament configurades. En altres paraules: l’anul·lació del lliure albir.

En qualsevol cas, constantment els mitjans de comunicació dels quals el nostre entorn es fa ressò, asseguren que avancem (o retrocedim) en l’era de la IA. I sembla que aquest viatge, sigui com sigui, ja no pot aturar-se.

En un primer moment, l’expansió de la IA sense controls ètics i jurídics, i com s’està fent palès en els darrers temps, afecta la privacitat, la llibertat i la igualtat de les persones. Sens dubte, el que està en joc –ara per ara– és la continuïtat de l’Homo sapiens com el coneixem.

En un segon moment, la IA, juntament amb la fabricació de nadius digitals, comporta que siguem espectadors privilegiats de la primera generació de nens amb un coeficient intel·lectual més baix que el dels seus pares. Al respecte, el director d’investigació a l’Institut National de la Santé et de la Recherche Médicale, Michael Desmurget, adverteix d’aquests perills en el seu llibre La fàbrica de cretins digitals, en el qual constata que l’ús de tecnologia per part de les noves generacions és absolutament desproporcionat.

De fet, l’autor assegura que amb només dos anys d’edat, el consum mitjà de tecnologia se situa al voltant de les tres hores. Dels vuit als dotze anys, la mitjana s’acosta a les cinc hores. En l’adolescència, la xifra es dispara gairebé a set hores, la qual cosa suposa més de dues mil quatre-centes hores a l’any en ple desenvolupament intel·lectual.

Per tant, en contra del que la premsa i la indústria han difós fins ara, l’ús de la tecnologia, lluny d’ajudar al desenvolupament dels infants i estudiants, produeix greus complicacions de tota índole: sobre el cos (p. ex. obesitat, problemes cardiovasculars, reducció de l’esperança de vida), sobre les emocions (p. ex. agressivitat, depressió, comportaments de risc), i sobre el desenvolupament intel·lectual (p. ex. empobriment del llenguatge,disminució de la concentració i de la memòria).

Arribats a aquest punt, convé atacar la idea de la neutralitat de la tecnologia que ha impregnat l’imaginari col·lectiu en els darrers temps. Segons el meu parer, el més important per entendre la tecnologia no és tant l’objecte en si ni el seu ús, sinó com aquesta conforma un món al seu voltant i es nodreix de tot el que necessita per ser funcional.

Respecte a això últim, podem introduir una reflexió sobre un dispositiu conegut per tots: els smartphone. Què els fa addictius, quina és la seva composició, quins efectes socials i econòmics té la seva producció, com afecta a la memòria i als llaços socials o a les relacions familiars, així com quines relacions de dependència genera. Realitzar aquest exercici és cabdal també per als sistemes de IA generativa. Sobretot perquè no transmutin en sistemes degeneratius –és a dir, que anul·lin la capacitat crítica i de reflexió dels seus usuaris–.

Per últim, hom pot arribar a pensar que només la tecnologia pot treure’ns dels problemes que planteja la tecnologia. Però res més lluny de la realitat, mantenir aquesta afirmació suposaria que la tecnologia és l’última fe de la nostra civilització.

En qualsevol cas, la solució haurà de passar perquè el ciutadà es converteixi de nou en actor i no en un mer espectador.

Bon any.

*David Tornil, Soci d’Adagi Advocats