Adrià Garriga, investigador en IA: "No sabem realment com les intel·ligències artificials prenen les decisions"

L'avanç accelerat de la intel·ligència artificial planteja reptes crucials sobre la seguretat digital, el futur del treball i el control d'aquesta tecnologia. En declaracions a Ràdio Rubí, l'investigador en Intel·ligència Artificial Adrià Garriga, que ha passat per institucions com Oxford, Cambridge o Microsoft, ha analitzat els dilemes ètics i tècnics dels grans models i ha advertit de la necessitat de comprendre millor el seu funcionament intern.

Quina és la teva línia de recerca actual?

"Després de deixar FAIR-AI al desembre, he estat investigant per compte propi i he tornat a la teoria de la neurociència d'intel·ligències artificials. Es parla molt de la IA i ha millorat molt, però realment no sabem com fa els pensaments ni com pren les decisions. Els mètodes actuals per crear intel·ligència artificial no consisteixen a escriure un programa tradicional, sinó a crear les condicions perquè creixi una intel·ligència que es comporti com volem. La meva recerca se centra a entendre quines estructures emergeixen en aquests models, com es comuniquen entre si i de quina manera prenen les decisions".

És cert que la intel·ligència artificial pot arribar a ser perillosa?

"Sí, fa deu anys ja vaig considerar que podia ser perillosa i per això em vaig dedicar a estudiar-la. Amb tot, les intel·ligències artificials d'ara no ho són tant; les que tenim actualment mostren certa bondat, tot i que no entenem del tot com funcionen. El perill real pot aparèixer en el futur si les IAs superen la intel·ligència humana i els seus objectius divergeixin dels nostres. Si acaben assumint tot el treball econòmic, l'estratègia i les decisions, podrien determinar el futur i la gestió dels recursos sense que les persones tinguem cap capacitat de decisió."

Què va passar exactament en el cas de la intel·ligència artificial que va accedir sense permís al sistema de dades d'Austràlia?

"Pel que jo entenc estaven fent una avaluació de capacitats. En aquests casos s'avalua la capacitat dels models per dur a terme tasques en ordinadors i substituir el treball remot humà. En aquesta prova es va demanar a la IA recollir dades públiques del govern australià, però, en no trobar-ne suficients, va optar per accedir al sistema. L'entrenament actual es basa en l'aprenentatge per reforçament, un mètode similar a una escola o un gimnàs on se'ls atorga o treu puntuació. Aquest sistema genera un reflex molt fort per superar les avaluacions i aconseguir la màxima nota."

Es pot utilitzar la intel·ligència artificial de manera segura en el dia a dia o hi ha el risc que es filtrin dades?

"Ara mateix els models no fan accions nefastes per iniciativa pròpia sense que se'ls demani. Si li demanes a una IA que redacti una notícia i la desi a l'arxiu, ho farà raonablement bé, tot i que de vegades es pot equivocar. La principal preocupació no és l'ús personal o professional directe de l'eina, sinó la seguretat dels serveis web on s'emmagatzema la informació davant la possibilitat que un tercer hi accedeixi. Per tant, és més un problema de seguretat digital general que no pas de l'ús de la IA en si mateix."

S'està desenvolupant la intel·ligència artificial cap a usos positius com la medicina o s'està perdent l'interès?

"La manera en què es desenvolupa la IA ara mateix és la intel·ligència general, en el sentit que el mateix sistema intenta fer totes les tasques que es poden fer. La majoria de tasques que fan són coses de tipus programació o matemàtiques perquè són fàcils de puntuar, però també adquireix capacitats de visió, de mirar la pantalla de l'ordinador, de mirar una foto o de reconèixer patrons en general. Hi ha algunes IAs especialitzades en les ciències biològiques o de la salut, com per exemple fa uns anys l'AlphaFold de DeepMind, que és una IA que prediu com es pleguen les proteïnes per saber quines funcions poden tenir. Les companyies més grans, com OpenAI, Anthropic i Google, estan tirant més per una IA que faci totes les tasques en general i la meta que tenen és més substituir el treballador remot.”

Hi ha un risc real que les empreses utilitzin la intel·ligència artificial per substituir els treballadors d'oficina?

"Part de la quantitat enorme de diners que paguen els inversors per aquestes companyies, són perquè pensen que podran agafar una gran quantitat de l'economia en termes de salaris de treballadors. Si tu ara tens un treballador i li pagues 100.000 euros l'any, i en comptes d'això pots pagar una IA que et faci el 90% de la mateixa feina per 1.000 euros l'any, clarament triaràs la IA, perquè és molt més barata. Hi ha un clar incentiu econòmic per substituir els treballadors remots. Hi ha algunes companyies que estan intentant fer una manera d'ajudar els treballadors sense substituir-los o donar més capacitats a cada treballador, perquè és molt difícil substituir un treballador completament, però pots substituir la feina que abans la feien deu, ara te la fan dues persones i 40 IAs"